Prata med lokala AI-modeller

Varför lokala AI-modeller?

Lokal användning av AI-modeller ger viktiga fördelar:

• Inherently säkert - Dina data stannar på din egen dator och skickas aldrig till externa servrar
• Inga extra kostnader - Lokala modeller har inga API-kostnader per användning
• Integritet garanterad - Perfekt för känsliga dokument och information

Varför Ollama?

Ollama är ett verktyg som gör det enkelt att köra AI-modeller lokalt. Det installeras separat på varje dator, vilket innebär att det inte finns några begränsningar vad gäller antal användare - inget delat serverkrav.

Installera Ollama

1. Gå till Ollama-nedladdningssidan
2. Ladda ner versionen för ditt operativsystem (Windows, macOS eller Linux)
3. Installera Ollama genom installationsprogrammet
4. Efter installationen kör Ollama automatiskt i bakgrunden

Installera ett språkmodell

Efter att ha installerat Ollama måste du i minst en språkmodell nedladdad:

1. Öppna Ollama-gränssnittet (via systemfältets ikon eller terminalen)
2. Ladda ner en språkmodell efter eget val

Rekommenderad modell

Välj gärna en modell som har verkytygs- och vision-förmågor:

• Tool capabilities - Modellen kan använda alla verktyg som finns i applikationen, som att söka på internet och generera bilder
• Vision capabilities - Modellen kan analysera och beskriva bilder

Rekommenderad modell

qwen3-vl:4b erbjuder en bra balans mellan snabbhet och verktygs-/visionsmöjligheter. Installera denna modell via terminalen:

ollama pull qwen3-vl:4b

Modellval baserat på hårdvara

Modellens prestanda beror starkt på datorns hårdvara:

Hårdvara	Rekommendation
Begränsad (8GB RAM, inget GPU)	Välj mindre modeller (1-4B parametrar)
Medel (16GB RAM, grundläggande GPU)	Modeller upp till 7B parametrar
Kraftfull (32GB+ RAM, modern GPU)	Större modeller möjligt (13B+)

Snabbhet vs. kvalitet

En mindre modell presterar generellt bättre när det gäller hastighet, men kan ge mindre exakta svar. Prova för att hitta bästa balans för din situation.

Konfiguration i skrivbordsapplikationen

När Ollama körs med en installerad modell, upptäcker skrivbordsapplikationen den automatiskt. Du kan sedan i chatten välja den lokala modellen som alternativ till molnmodellerna.

Tillgängliga modeller med tool/vision-stöd

Se hela listan på ollama.com/library. Filtrera på modeller med:

• Tools-tagg för verktygsförmågor
• Vision-tagg för bildigenkänning

Populära alternativ:

• qwen3-vl:4b - Kompakt, snabb, tool + vision
• llama3.2-vision - Vision-förmågor
• mistral - Snabba allmänna uppgifter