Gå til hovedindhold

Chat med lokale AI-modeller

Hvorfor lokale AI-modeller?​

Lokalt arbejde med AI-modeller giver vigtige fordele:

  • Inherently sikkert - Dine data forbliver på din egen computer og sendes aldrig til eksterne servere
  • Ingen ekstra omkostninger - Lokale modeller har ingen API-omkostninger pr. brug
  • Fortrolighed sikret - Ideelt til følsomme dokumenter og oplysninger

Hvorfor Ollama?​

Ollama er et værktøj, der gør det nemt at køre AI-modeller lokalt. Det installeres på hver enkelt computer, hvilket betyder, at der ikke er begrænsninger på antallet af brugere - ingen delt server nødvendig.

Installere Ollama​

  1. Gå til Ollama download-side
  2. Download versionen til dit operativsystem (Windows, macOS eller Linux)
  3. Installer Ollama ved at følge installatøren
  4. Efter installation kører Ollama automatisk i baggrunden

Installere en sprogmodel​

Når Ollama er installeret, skal du mindst downloade én sprogmodel:

  1. Åbn Ollama-grænsefladen (via systembakkeikonet eller terminal)
  2. Download en sprogmodel efter eget valg

Anbefalet model​

Foretræk en model, der har tool og vision capabilities:

  • Tool capabilities - Modellen kan bruge alle værktøjerne, der er tilgængelige i applikationen, såsom internetsøgning og billedgenerering
  • Vision capabilities - Modellen kan analysere og beskrive billeder
Anbefalet model

qwen3-vl:4b giver en god balance mellem hastighed og tool/vision muligheder. Installer denne model via terminalen:

ollama pull qwen3-vl:4b

Vælge model ud fra hardware​

Ydelsen for en model er stærkt afhængig af din computers hardware:

HardwareAnbefaling
Begrænset (8GB RAM, ingen GPU)Vælg mindre modeller (1-4B parametre)
Middel (16GB RAM, basis GPU)Modeller op til 7B parametre
Kraftfuld (32GB+ RAM, moderne GPU)Større modeller er mulige (13B+)
Hastighed vs. kvalitet

En mindre model præsterer generelt bedre med hensyn til hastighed, men kan give mindre præcise svar. Eksperimenter for at finde den bedste balance for din situation.

Konfiguration i skrivebordsapplikationen​

Når Ollama kører med en installeret model, opdager skrivebordsapplikationen dette automatisk. Du kan derefter i chatten vælge den lokale model som alternativ til cloud-modellerne.

På startskærmen kan du vælge en lokal model under inputfeltet, før du sender den første besked. Den valgte model bruges fra den første besked og kan ændres senere.

Tilgængelige modeller med tool/vision-support​

Se hele listen på ollama.com/library. Filtrer på modeller med:

  • Tools-tag for tool capabilities
  • Vision-tag for billedgenkendelse

Populære muligheder:

  • qwen3-vl:4b - Kompakt, hurtigt, tool + vision
  • llama3.2-vision - Vision capabilities
  • mistral - Hurtige generelle opgaver
WhatsApp