மொபைலில் 2GB RAM போதுமானது! – TinyLLaMA ChatGPT மாடலை Termux-ல் offline இயக்குவது [தமிழ் வழிகாட்டி]

-
Android-இல் TinyLLaMA GPT மாடலை இயக்குவது எப்படி?

📱 Android-இல் TinyLLaMA GPT மாடலை இயக்குவது எப்படி?

நவீன ChatGPT போன்ற AI-களை இயக்க வேண்டுமானால் பெரும் கணினிகள் தேவைப்படுமே என்று நினைத்தீர்களா?
இப்போது இல்லை! 🎉 இங்கே, ஒரு Android மொபைலில் (2GB RAM போதுமானது) TinyLLaMA-1.1B-chat.Q2_K.gguf எனும் அடர்த்தி குறைந்த GPT மாடலை offline இயங்கச் செய்வது எப்படி என்பதைப் பார்க்கலாம்.

🧰 தேவையானவை:

பொருள்விளக்கம்
Android மொபைல்2GB RAM போதுமானது
Termux AppF-Droid அல்லது GitHub APK
மாடல் கோப்புtinyllama-1.1B-chat.Q2_K.gguf (~320MB)
இணையம்Download செய்ய மட்டும் தேவை, பிறகு Offline

🧪 படி 1: Termux-ஐ தயார் செய்தல்

pkg update && pkg upgrade
pkg install git cmake clang curl wget unzip zip
termux-setup-storage

🔧 படி 2: llama.cpp கோட்பொருளை clone செய்தல்

cd ~
git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build
cd build
cmake ..
make -j4

💾 படி 3: GGUF மாடலை பதிவிறக்கம் செய்யுதல்

TinyLLaMA GGUF மாடலை https://huggingface.co எனும் HuggingFace இணையதளத்திலிருந்து பெறலாம்.

  • மாடல் பெயர்: tinyllama-1.1B-chat.Q2_K.gguf
  • இதை உங்கள் மொபைலில் Download/ கோப்புறையில் சேமிக்கவும்

🚀 படி 4: மாடலை இயக்குதல்

cd ~/llama.cpp/build/bin
chmod +x llama-cli
export LD_LIBRARY_PATH=.
./llama-cli -m ~/storage/shared/Download/tinyllama-1.1B-chat.Q2_K.gguf -i

⚡ டிப்: விரைவாக இயக்க alias சேர்த்தல்

alias tinychat='cd ~/llama.cpp/build/bin && ./llama-cli -m ~/storage/shared/Download/tinyllama-1.1B-chat.Q2_K.gguf -i'

அதன் பின் நீங்கள் எப்போதும் tinychat என டைப் செய்து AI-ஐ துவக்கலாம்.

💬 உதாரண உரையாடல்:

User: Hello!
TinyLLaMA: Hi! How can I assist you today?

🔒 உரிமை தகவல்:

  • மாடல்: TinyLLaMA (by CMP-NCT)
  • Codebase: llama.cpp – Georgi Gerganov

⚠️ முக்கிய குறிப்பு:

இது English மட்டுமே உள்ளடக்கிய மாடல். தற்போது குறைந்த memory GPT Tamil மாடல்கள் இல்லை – ஆனால் விரைவில் வந்துகொண்டிருக்கின்றன.

🔚 முடிவுரை

2GB RAM கொண்ட Android சாதனத்தில் AI இயக்குவது கனவு அல்ல! TinyLLaMA மாடல் மூலம், நீங்கள் ChatGPT போன்ற உரையாடல் செயற்கை நுண்ணறிவைப் offline-ல் இயக்கலாம் — இலவசமாகவும் திறந்த மூலமாகவும்!

இப்போது தொடங்குங்கள் — AI உங்கள் கைபேசியில்!

Comments

Post a Comment

Popular posts from this blog

Offline ai

-
Offline AI: Operating with Built-in Knowledge This AI operates offline , functioning solely on its fundamental, pre-existing information . It doesn't require an internet connection, relying instead on its internal database and algorithms to process requests and provide responses. Essentially, it's an AI that works without web access , utilizing only the data it was initially trained on and stored within its system . This codeing: Tamil ai download codeing Tamil ai
Read more

Termux comment

-
Termux: உங்கள் ஆண்ட்ராய்டு ஃபோனில் ஒரு Linux சூழல் 📱 Termux: உங்கள் ஆண்ட்ராய்டு ஃபோனில் ஒரு Linux சூழல் ஸ்மார்ட்போன்கள் நம் அன்றாட வாழ்க்கையின் ஒரு பகுதியாகிவிட்டன. கேம்கள் விளையாடுவது, சமூக ஊடகங்களைப் பார்ப்பது எனப் பலவற்றிற்கும் அதைப் பயன்படுத்துகிறோம். ஆனால் உங்கள் ஆண்ட்ராய்டு ஃபோனை ஒரு சக்திவாய்ந்த Linux மெஷினாக மாற்ற முடியும் என்று சொன்னால் நம்புவீர்களா? ஆம், Termux என்ற செயலி மூலம் இது சாத்தியமாகும்! Termux என்றால் என்ன? Termux என்பது ஒரு இலவச மற்றும் ஓப்பன் சோர்ஸ் ஆண்ட்ராய்டு செயலியாகும். இது உங்கள் சாதனத்தில் ஒரு குறைந்தபட்ச Linux கட்டளை வரி சூழலை (command-line environment) நிறுவ அனுமதிக்கிறது. Non-rooted phone-களில் கூட வேலை செய்யும் Linux commands மற்றும் tools-ஐ இயக்க முடியும் Termux ஏன் தேவை? கற்றல் மற்றும் பயிற்சி: Linux கட்டளைகளைக் கற்றுக்கொள்ள பயன்பாட்டு வளர்ச்சி: Python, Ruby போன்ற மொழிகளில் வேலை நெட்வொர்க்கிங்: SSH, rsync போன்ற கருவிகள் கோப்பு மேலாண்மை: Storage-access கட்டளைகள் ஹேக்கிங் / பாதுகாப்பு: Tools கற்றல்...
Read more

GitHub கணக்கை துவங்குவது எப்படி?

-
GitHub கணக்கை துவங்குவது எப்படி? GitHub கணக்கை துவங்குவது எப்படி? (தமிழில்) GitHub என்பது நிரலாளர்களுக்கான ஒரு இணையதளம். இதில் நிரல்கள் (code) சேமிக்க, பகிர மற்றும் கூட்டாக வேலை செய்ய முடியும். 1. GitHub என்றால் என்ன? GitHub = Git + Cloud + Collaboration Tools GitHub-இல் நிரல்கள் version history-யுடன் பாதுகாக்கப்படலாம் Open source project-களில் பங்கு பெறலாம் 2. GitHub கணக்கை தொடங்குவது எப்படி? GitHub இணையதளத்திற்கு செல்லவும்: https://github.com Sign Up பொத்தானை கிளிக் செய்யவும் Username, Email, Password உள்ளிட்ட விவரங்களை நிரப்பவும் CAPTCHA மற்றும் email verification முடிக்கவும் உங்கள் GitHub account தயார்! 3. Repository உருவாக்குவது எப்படி? Dashboard-இல் "➕" → New Repository தேர்வு செய்யவும் Repository name: உதா: my-first-project Initialize with README என்பதை தேர்வு செய்து உருவாக்கவும் 4. முக்கிய GitHub சொற்கள் சொல் விளக்கம் Repository Project கோப...
Read more