Ana içeriğe atla

Yerel AI modelleriyle sohbet

Neden yerel AI modelleri?​

Yerel olarak AI modelleriyle çalışmanın önemli avantajları vardır:

  • Doğal olarak güvenli - Verileriniz kendi bilgisayarınızda kalır ve asla harici sunuculara gönderilmez
  • Ek maliyet yok - Yerel modellerin kullanım başına API ücreti yoktur
  • Gizlilik garantili - Hassas belgeler ve bilgiler için idealdir

Neden Ollama?​

Ollama, AI modellerini yerel olarak kolayca çalıştırmanızı sağlayan bir araçtır. Her bilgisayara ayrı ayrı kurulur, bu sayede kullanıcı sayısında sınırlama yok - paylaşılan bir sunucuya gerek yok.

Ollama kurulumu​

  1. Ollama indirme sayfası adresine gidin
  2. İşletim sisteminiz için sürümü indirin (Windows, macOS veya Linux)
  3. Yükleyiciyi takip ederek Ollama'yı kurun
  4. Kurulumdan sonra Ollama arka planda otomatik olarak çalışır

Bir dil modeli kurmak​

Ollama kurulduktan sonra en az bir dil modeli indirmelisiniz:

  1. Ollama arayüzünü açın (sistem çubuğu simgesi veya terminal üzerinden)
  2. İstediğiniz dil modelini indirin

Önerilen model​

Tercihen tool ve vision yeteneklerine sahip bir model seçin:

  • Tool capabilities - Model, uygulamadaki tüm araçlardan faydalanabilir, örneğin internet araması ve görüntü üretimi
  • Vision capabilities - Model, görüntüleri analiz edebilir ve açıklayabilir
Önerilen model

qwen3-vl:4b hız ile araçlar/görünüm olanakları arasında iyi bir denge sunar. Bu modeli terminalden kurun:

ollama pull qwen3-vl:4b

Donanıma göre model seçimi​

Bir modelin performansı bilgisayarınızın donanımına bağlıdır:

DonanımÖneri
Kısıtlı (8GB RAM, GPU yok)Daha küçük modelleri seçin (1-4B parametreler)
Orta (16GB RAM, temel GPU)7B parametrelere kadar modeller
Güçlü (32GB+ RAM, modern GPU)Daha büyük modeller mümkün (13B+)
Hız vs. kalite

Daha küçük bir model genelde hız açısından daha iyi performans gösterirken, daha az doğru cevaplar verebilir. Sizin durumunuza en uygun dengeyi bulmak için deneyin.

Masaüstü uygulamasında yapılandırma​

Ollama çalışıp kurulu bir modelle başladığında, masaüstü uygulaması bunu otomatik olarak algılar. Sohbet bölümünde yerel modeli bulut modellerinin yerine bir alternatif olarak seçebilirsiniz.

Araç/vision desteğine sahip modeller​

Tam liste için ollama.com/library adresini görün. Modelleri şu etiketlere göre filtreleyin:

  • Tools etiketli modeller için araç yetenekleri
  • Vision etiketli modeller için görüntü algılama

Popüler seçenekler:

  • qwen3-vl:4b - Kompakt, hızlı, araç + görüntü
  • llama3.2-vision - Görüntü yetenekleri
  • mistral - Hızlı genel görevler