Chat med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokalt arbejde med AI-modeller giver vigtige fordele:

• Inherently sikkert - Dine data forbliver på din egen computer og sendes aldrig til eksterne servere
• Ingen ekstra omkostninger - Lokale modeller har ingen API-omkostninger pr. brug
• Fortrolighed sikret - Ideelt til følsomme dokumenter og oplysninger

Hvorfor Ollama?

Ollama er et værktøj, der gør det nemt at køre AI-modeller lokalt. Det installeres på hver enkelt computer, hvilket betyder, at der ikke er begrænsninger på antallet af brugere - ingen delt server nødvendig.

Installere Ollama

1. Gå til Ollama download-side
2. Download versionen til dit operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved at følge installatøren
4. Efter installation kører Ollama automatisk i baggrunden

Installere en sprogmodel

Når Ollama er installeret, skal du mindst downloade én sprogmodel:

1. Åbn Ollama-grænsefladen (via systembakkeikonet eller terminal)
2. Download en sprogmodel efter eget valg

Anbefalet model

Foretræk en model, der har tool og vision capabilities:

• Tool capabilities - Modellen kan bruge alle værktøjerne, der er tilgængelige i applikationen, såsom internetsøgning og billedgenerering
• Vision capabilities - Modellen kan analysere og beskrive billeder

Anbefalet model

qwen3-vl:4b giver en god balance mellem hastighed og tool/vision muligheder. Installer denne model via terminalen:

ollama pull qwen3-vl:4b

Vælge model ud fra hardware

Ydelsen for en model er stærkt afhængig af din computers hardware:

Hardware	Anbefaling
Begrænset (8GB RAM, ingen GPU)	Vælg mindre modeller (1-4B parametre)
Middel (16GB RAM, basis GPU)	Modeller op til 7B parametre
Kraftfuld (32GB+ RAM, moderne GPU)	Større modeller er mulige (13B+)

Hastighed vs. kvalitet

En mindre model præsterer generelt bedre med hensyn til hastighed, men kan give mindre præcise svar. Eksperimenter for at finde den bedste balance for din situation.

Konfiguration i skrivebordsapplikationen

Når Ollama kører med en installeret model, opdager skrivebordsapplikationen dette automatisk. Du kan derefter i chatten vælge den lokale model som alternativ til cloud-modellerne.

Tilgængelige modeller med tool/vision-support

Se hele listen på ollama.com/library. Filtrer på modeller med:

• Tools-tag for tool capabilities
• Vision-tag for billedgenkendelse

Populære muligheder:

• qwen3-vl:4b - Kompakt, hurtigt, tool + vision
• llama3.2-vision - Vision capabilities
• mistral - Hurtige generelle opgaver