Vai al contenuto principale

Chat con modelli AI locali

Perché modelli AI locali?​

Lavorare localmente con modelli AI offre vantaggi importanti:

  • Intrinsicamente sicuro - I tuoi dati rimangono sul tuo computer e non vengono mai inviati a server esterni
  • Nessun costo aggiuntivo - I modelli locali non hanno costi API per uso
  • Privacy garantita - Ideale per documenti e informazioni sensibili

Perché Ollama?​

Ollama è uno strumento che ti permette di eseguire facilmente modelli AI localmente. Viene installato su ogni computer separatamente, eliminando limiti sul numero di utenti - nessun server condiviso necessario.

Installare Ollama​

  1. Vai alla pagina di download di Ollama
  2. Scarica la versione per il tuo sistema operativo (Windows, macOS o Linux)
  3. Installa Ollama seguendo l’installer
  4. Dopo l’installazione Ollama si avvia automaticamente in background

Installare un modello linguistico​

Dopo aver installato Ollama, devi scaricare almeno un modello linguistico:

  1. Apri l’interfaccia Ollama (tramite l’icona della barra di sistema o terminale)
  2. Scarica un modello linguistico a tua scelta

Modello consigliato​

Preferisci un modello che abbia capacità tool e vision:

  • Tool capabilities - Il modello può utilizzare tutti gli strumenti disponibili nell’applicazione, come ricerche su internet e generazione di immagini
  • Vision capabilities - Il modello può analizzare e descrivere immagini
Modello consigliato

qwen3-vl:4b offre un buon equilibrio tra velocità e possibilità di tool/vision. Installa questo modello tramite il terminale:

ollama pull qwen3-vl:4b

Scegliere modello in base all’hardware​

Le prestazioni di un modello dipendono fortemente dall’hardware del tuo computer:

HardwareRaccomandazione
Limitato (8GB RAM, nessuna GPU)Scegli modelli più piccoli (1-4B parametri)
Medio (16GB RAM, GPU di base)Modelli fino a 7B parametri
Potente (32GB+ RAM, GPU moderna)Modelli più grandi possibili (13B+)
Velocità vs. qualità

Un modello più piccolo in genere offre maggiore velocità, ma può fornire risposte meno accurate. Sperimenta per trovare il miglior equilibrio per la tua situazione.

Configurazione nell’applicazione desktop​

Una volta che Ollama è in esecuzione con un modello installato, l’app desktop rileva automaticamente questa situazione. Puoi quindi selezionare il modello locale nella chat come alternativa ai modelli cloud.

Modelli disponibili con supporto tool/vision​

Guarda l’elenco completo su ollama.com/library. Filtra per modelli con:

  • tag Tools per le capability di tool
  • tag Vision per il riconoscimento delle immagini

Opzioni popolari:

  • qwen3-vl:4b - Compatto, veloce, tool + vision
  • llama3.2-vision - Capabilities di Vision
  • mistral - Veloci task generali