Local AI dengan Ollama: Menjalankan AI di Komputer Sendiri
Panduan lengkap untuk pemula tentang menjalankan AI secara lokal menggunakan Ollama — instalasi, konfigurasi, dan penggunaan praktis.
Apa itu Local AI?
Local AI adalah menjalankan model AI langsung di komputer Anda sendiri, tanpa mengirim data ke server cloud. Berbeda dengan layanan AI online (ChatGPT, Claude) yang memproses di server mereka, Local AI memproses semuanya di hardware Anda.
Ollama adalah tool open source yang memudahkan menjalankan berbagai model AI (seperti Llama, Mistral, CodeLlama) secara lokal. Cukup satu perintah untuk mengunduh dan menjalankan model.
Kenapa Menjalankan AI Lokal?
Privasi
Data tidak pernah meninggalkan komputer Anda. Sangat penting untuk data sensitif atau kode proprietary.
Gratis
Tidak ada biaya API. Setelah model diunduh, Anda bisa menggunakannya sepuasnya tanpa batas.
Offline
Bisa digunakan tanpa internet. Cocok untuk situasi di mana koneksi tidak stabil.
Customizable
Bisa fine-tune model untuk kebutuhan spesifik Anda.
Instalasi Ollama
macOS
brew install ollama
Linux
curl -fsSL https://ollama.ai/install.sh | sh
Windows
Unduh installer dari ollama.ai dan jalankan.
Model-model Populer
| Model | Ukuran | Kegunaan | Perintah |
|---|---|---|---|
| Llama 3.1 | 8B | General purpose, percakapan umum | ollama run llama3.1 |
| Mistral | 7B | Cepat dan efisien, cocok untuk tugas ringan | ollama run mistral |
| CodeLlama | 7B | Khusus coding, generate dan debug kode | ollama run codellama |
| Qwen 2.5 | 7B | Multilingual, bagus untuk bahasa Indonesia | ollama run qwen2.5 |
| Gemma 2 | 9B | Dari Google, seimbang antara performa dan ukuran | ollama run gemma2 |
| Phi-3 | 3.8B | Sangat ringan, cocok untuk laptop dengan RAM terbatas | ollama run phi3 |
Penggunaan Dasar
Chat Interaktif
# Jalankan model dan mulai chat ollama run llama3.1 # Setelah chat dimulai, ketik pertanyaan langsung >>> Apa itu REST API?
Menggunakan API
# Ollama menyediakan API lokal di port 11434
curl http://localhost:11434/api/generate -d '{
"model": "llama3.1",
"prompt": "Jelaskan REST API dalam 3 kalimat"
}'Manajemen Model
# Lihat model yang sudah diunduh ollama list # Hapus model ollama rm llama3.1 # Lihat info model ollama show llama3.1
Integrasi dengan Tools
- jcode — Gunakan
jcode login --provider ollama - VS Code — Extension Continue.dev mendukung Ollama
- Python — Library
ollama-python - LangChain — Integrasi langsung dengan Ollama
Kelebihan dan Kekurangan
Kelebihan
- Privasi terjaga (data lokal)
- Gratis tanpa batas
- Bisa offline
- Customizable
- Tidak ada rate limit
Kekurangan
- Butuh RAM dan GPU yang memadai
- Performa lebih lambat dari cloud
- Kualitas lebih rendah dari model besar
- Model besar butuh disk space besar
- Tidak semua model tersedia
Ringkasan
Local AI dengan Ollama memungkinkan Anda menjalankan model AI di komputer sendiri secara gratis dan privat. Cocok untuk development, testing, dan eksplorasi. Instalasi mudah, satu perintah untuk menjalankan model.