Chatten med lokale AI-modeller

Hvorfor lokale AI-modeller?

Lokal bruk av AI-modeller gir viktige fordeler:

• Inherent sikkerhet - Dataene dine forblir på din egen datamaskin og sendes aldri til eksterne servere
• Ingen ekstra kostnader - Lokale modeller har ingen API-kostnader per bruk
• Personvern garantert - Ideelt for sensitive dokumenter og informasjon

Hvorfor Ollama?

Ollama er et verktøy som lar deg enkelt kjøre AI-modeller lokalt. Det installeres separat på hver datamaskin, noe som eliminerer begrensninger på antall brukere – ingen delt server nødvendig.

Installere Ollama

1. Gå til Ollama nedlastingssiden
2. Last ned versjonen for ditt operativsystem (Windows, macOS eller Linux)
3. Installer Ollama ved å følge installasjonsprogrammet
4. Etter installasjon kjører Ollama automatisk i bakgrunnen

Installere en språkmodell

Etter installasjon av Ollama må du minst laste ned én språkmodell:

1. Åpne Ollama-grensesnittet (via systemstatusikonet eller terminalen)
2. Last ned en språkmodell etter eget valg

Anbefalt modell

Velg helst en modell som har tool- og vision-muligheter:

• Tool capabilities - Modellen kan bruke alle verktøyene som finnes i applikasjonen, som nettsøk og bildegenerering
• Vision capabilities - Modellen kan analysere og beskrive bilder

Anbefalt modell

qwen3-vl:4b gir en god balanse mellom hastighet og verktøy/vision-muligheter. Installer denne modellen via terminalen:

ollama pull qwen3-vl:4b

Modellvalg basert på maskinvare

Ytelsen til en modell avhenger sterkt av maskinvaren i datamaskinen din:

Maskinvare	Anbefaling
Begrenset (8GB RAM, ingen GPU)	Velg mindre modeller (1-4B parametere)
Medium (16GB RAM, basis GPU)	Modeller opp til 7B parametere
** Kraftig** (32GB+ RAM, moderne GPU)	Større modeller mulig (13B+)

Hastighet vs. kvalitet

En mindre modell presterer vanligvis raskere, men kan gi mindre nøyaktige svar. Eksperimenter for å finne den beste balansen for din situasjon.

Konfigurasjon i skrivebordapplikasjonen

Så snart Ollama kjører med en installert modell, oppdager skrivebordsapplikasjonen dette automatisk. Du kan deretter velge lokal modell i chatten som et alternativ til skylmodellene.

Tilgjengelige modeller med tool/vision-støtte

Se hele listen på ollama.com/library. Filtrer på modeller med:

• Tools-tag for tool capabilities
• Vision-tag for bilde-identifikasjon

Populære alternativer:

• qwen3-vl:4b - Kompakt, rask, tool + vision
• llama3.2-vision - Vision capabilities
• mistral - Rask generaloppgaver