برو به محتوای اصلی

چت با مدل‌های محلی AI

چرا مدل‌های محلی AI؟​

کار کردن محلی با مدل‌های AI مزایای مهمی دارد:

  • ایمنی ذاتی - داده‌های شما روی کامپیوتر خود باقی می‌ماند و هرگز به سرورهای خارجی ارسال نمی‌شود
  • بدون هزینه اضافی - مدل‌های محلی هیچ هزینه API در هر استفاده ندارند
  • حریم خصوصی تضمین‌شده - ایده‌آل برای اسناد و اطلاعات حساس

چرا Ollama؟​

Ollama ابزاری است که به‌سادگی می‌توانید مدل‌های AI را به صورت محلی اجرا کنید. روی هر کامپیوتر به‌طور جداگانه نصب می‌شود، بنابراین محدودیت کاربری وجود ندارد - بدون نیاز به سرور مشترک.

نصب Ollama​

  1. به صفحه دانلود Ollama بروید: Ollama download pagina
  2. نسخه مناسب سیستم عامل خود را دانلود کنید (Windows، macOS یا Linux)
  3. Ollama را با دنبال کردن نصاب نصب کنید
  4. پس از نصب، Ollama به‌طور خودکار در پس‌زمینه اجرا می‌شود

نصب یک مدل زبان​

پس از نصب Ollama باید حداقل یک مدل زبان را دانلود کنید:

  1. رابط کاربری Ollama را باز کنید (از طریق آیکون نوار وظیفه یا ترمینال)
  2. یک مدل زبان به انتخاب خود دانلود کنید

مدل پیشنهادی​

به‌ترتیب توصیه، مدلی را انتخاب کنید که دارای قابلیت‌های ابزار و تصویر (vision) باشد:

  • قابلیت‌های ابزار - مدل می‌تواند از تمامی ابزارهای موجود در برنامه استفاده کند، مانند جستجوی اینترنت و تولید تصاویر
  • قابلیت‌های Vision - مدل می‌تواند تصاویر را تحلیل و توصیف کند
مدل پیشنهادی

qwen3-vl:4b تعادل خوبی بین سرعت و قابلیت‌های ابزار/vision ارائه می‌دهد. این مدل را از طریق ترمینال نصب کنید:

ollama pull qwen3-vl:4b

انتخاب مدل بر اساس سخت‌افزار​

عملکرد یک مدل به‌شدت به سخت‌افزار کامپیوتر شما بستگی دارد:

سخت‌افزارتوصیه
محدود (8GB RAM، بدون GPU)مدل‌های کوچکتر (1-4B پارامتر) را انتخاب کنید
متوسط (16GB RAM، GPU پایه)مدل‌ها تا 7B پارامتر
قدرتمند (32GB+ RAM، GPU مدرن)مدل‌های بزرگتر ممکن است (13B+)
سرعت در مقابل کیفیت

یک مدل کوچک‌تر به طور کلی از نظر سرعت بهتر عمل می‌کند اما احتمالاً پاسخ‌های دقیق‌تری ندارد. برای پیدا کردن بهترین تعادل برای شرایط شما، آزمایش کنید.

پیکربندی در برنامه دسکتاپ​

به محض اینکه Ollama با یک مدل نصب‌شده اجرا شود، برنامه دسکتاپ به‌طور خودکار این را تشخیص می‌دهد. سپس می‌توانید در چت مدل محلی را به‌عنوان جایگزین برای مدل‌های ابری انتخاب کنید.

مدل‌های موجود با پشتیبانی ابزار/تصویر​

فهرست کامل را در ollama.com/library مشاهده کنید. فیلتر کنید روی مدل‌ها با:

  • برچسب Tools برای قابلیت‌های ابزار
  • برچسب Vision برای تشخیص تصاویر

گزینه‌های محبوب:

  • qwen3-vl:4b - جمع و‌جور، سریع، ابزار + vision
  • llama3.2-vision - قابلیت‌های Vision
  • mistral - مسئولیت‌پذیر در وظایف عمومی سریع