راهنمای کامل اجرای مدل Qwen-Coder 3B روی سیستمی با پردازنده نسل ۳ و رم ۱۶ گیگابایت

مقدمه

آیا تا به حال فکر کرده‌اید که بتوانید یک دستیار هوش مصنوعی قدرتمند را روی کامپیوتر قدیمی خود اجرا کنید؟ شاید باورتان نشود، اما حتی با یک سیستم نسبتاً قدیمی مثل پردازنده‌های نسل سوم اینتل هم می‌توانید از قدرت مدل‌های کدنویسی مثل Qwen-Coder بهره‌مند شوید. در این مقاله، قصد دارم تجربه‌ی خود را در اجرای هوش مصنوعی لوکال روی سیستمی با مشخصات زیر به اشتراک بگذارم:

پردازنده: Intel Core i5-3500 @ 3.00GHz (نسل سوم)
حافظه رم: 16 گیگابایت (15.3 گیگابایت قابل استفاده)
کارت گرافیک: NVIDIA GeForce 610 با ۲ گیگابایت حافظه
فضای ذخیره‌سازی: ۲۵۰ گیگابایت SSD

چرا هوش مصنوعی لوکال؟

اجرای هوش مصنوعی به صورت محلی (لوکال) مزایای بی‌نظیری دارد:

• حریم خصوصی کامل: داده‌های شما به هیچ سروری ارسال نمی‌شود

• بدون نیاز به اینترنت: پس از دانلود مدل، بدون اتصال به اینترنت کار می‌کند

• هزینه صفر: برخلاف سرویس‌های ابری، هیچ هزینه‌ای ندارد

• سرعت قابل قبول: در بسیاری موارد، پاسخ‌ها به سرعت سرویس‌های ابری هستند

انتخاب مدل مناسب

یکی از مهم‌ترین نکات در اجرای هوش مصنوعی روی سیستم‌های قدیمی، انتخاب مدل مناسب است. مدل Qwen-Coder 3B یک انتخاب عالی برای چنین سیستمی است، به شرطی که نسخه‌ی بهینه‌شده‌ی آن را دانلود کنید.

مدل Qwen-Coder توسط شرکت Alibaba توسعه یافته و به‌طور خاص برای وظایف برنامه‌نویسی بهینه شده است. نسخه‌ی ۳ میلیارد پارامتری آن تعادل خوبی بین کیفیت و نیازمندی‌های سخت‌افزاری ایجاد می‌کند.

چالش سخت‌افزاری: کارت گرافیک ضعیف

اولین و مهم‌ترین چالش، کارت گرافیک NVIDIA GeForce 610 با ۲ گیگابایت حافظه است. این کارت گرافیک برای اجرای مدل‌های هوش مصنوعی مدرن بسیار ضعیف است، زیرا:

۱. ظرفیت ناکافی حافظه: مدل Qwen-Coder 3B حتی در نسخه‌ی فشرده‌شده (۴ بیتی) حدود ۴ گیگابایت حافظه اشغال می‌کند، در حالی که کارت گرافیک شما تنها ۲ گیگابایت دارد.

۲. سازگاری محدود: این کارت‌های قدیمی پشتیبانی محدودی از CUDA دارند که برای اجرای مدل‌های ضروری است.

۳. سرعت پایین: حتی اگر مدل روی کارت گرافیک جای می‌گرفت، سرعت پردازش بسیار پایین بود.

راه‌حل: اجرای مدل روی پردازنده (CPU) به جای کارت گرافیک. خبر خوب این است که نرم‌افزار Ollama به‌طور خودکار این کار را انجام می‌دهد.

مراحل گام‌به‌گام راه‌اندازی

مرحله ۱: نصب Ollama

اولین قدم، نصب نرم‌افزار Ollama است. این ابزار قدرتمند، مدیریت و اجرای مدل‌های هوش مصنوعی را بسیار ساده کرده است.

۱. به وبسایت رسمی Ollama بروید
۲. نسخه‌ی مخصوص سیستم‌عامل خود را دانلود کنید
۳. فایل نصب را اجرا کرده و مراحل نصب را طی کنید

مرحله ۲: دانلود مدل بهینه‌شده

حالا نوبت به دانلود مدلی می‌رسد که با سیستم شما سازگار باشد. این دستور را در ترمینال (Command Prompt یا PowerShell) اجرا کنید:

ollama run qwen2.5-coder:3b-instruct-q4_K_M

توضیح این دستور:

• ollama run: اجرای یک مدل

• qwen2.5-coder: نام مدل اصلی

• 3b: نسخه‌ی ۳ میلیارد پارامتری

• q4_K_M: نوع فشرده‌سازی ۴ بیتی (مناسب برای سیستم‌های با حافظه‌ی محدود)

صبر کنید تا مدل دانلود شود. اندازه‌ی نهایی حدود ۲ گیگابایت خواهد بود.

مرحله ۳: تست اولیه

برای اطمینان از عملکرد صحیح، یک تست ساده انجام دهید:

ollama run qwen2.5-coder:3b-instruct-q4_K_M "یک تابع ساده برای جمع دو عدد در پایتون بنویس"

اگر پاسخ دریافت کردید، یعنی همه‌چیز به درستی کار می‌کند.

اتصال به افزونه Kilo Code در VS Code

یکی از جذاب‌ترین کاربردهای این راه‌اندازی، اتصال به افزونه‌ی Kilo Code در VS Code است. این افزونه به شما امکان می‌دهد مستقیماً در محیط برنامه‌نویسی خود از هوش مصنوعی کمک بگیرید.

مراحل تنظیم Kilo Code:

۱. افزونه‌ی Kilo Code را در VS Code نصب کنید
۲. وارد تنظیمات افزونه شوید (از طریق منوی Extensions یا با فشردن Ctrl+Shift+X)
۳. یک Custom Provider جدید ایجاد کنید
۴. تنظیمات زیر را وارد کنید:

Base URL: http://localhost:11434/v1
API Key: ollama (یا هر مقدار دلخواه دیگر)
Model ID: qwen2.5-coder:3b-instruct-q4_K_M

۵. تنظیمات را ذخیره کرده و افزونه را مجدداً بارگذاری کنید

حالا می‌توانید در حین کدنویسی از دستیار هوش مصنوعی خود کمک بگیرید!

نکات کلیدی برای بهینه‌سازی عملکرد

از آنجایی که مدل روی پردازنده اجرا می‌شود، این نکات به افزایش سرعت و کیفیت پاسخ‌ها کمک می‌کنند:

۱. مدیریت پنجره‌ی متنی (Context Window)

مدل‌های هوش مصنوعی برای درک بهتر کد، به بخش‌هایی از کد قبلی نیاز دارند. اما طولانی کردن این پنجره، حافظه‌ی بیشتری مصرف می‌کند.

• در تنظیمات Kilo Code، Context Length یا Max Tokens را روی ۴۰۹۶ یا ۸۱۹۲ تنظیم کنید

• از ارسال کدهای بسیار طولانی در یک درخواست خودداری کنید

۲. تقسیم درخواست‌ها

به جای درخواست‌های طولانی و پیچیده، سوالات خود را به بخش‌های کوچک‌تر تقسیم کنید. مثلاً:

• ❌ "یک پروژه‌ی کامل فروشگاهی با React بنویس"

• ✅ "کامپوننت Header را در React بنویس" سپس "بخش محصولات را اضافه کن"

۳. بستن برنامه‌های غیرضروری

قبل از شروع کار با مدل، برنامه‌های سنگین و غیرضروری را ببندید تا حداکثر حافظه و پردازنده در اختیار مدل باشد.

۴. استفاده از حالت --num-ctx

اگر از خط فرمان استفاده می‌کنید، می‌توانید اندازه‌ی پنجره‌ی متنی را به این صورت تنظیم کنید:

ollama run qwen2.5-coder:3b-instruct-q4_K_M --num-ctx 4096

عملکرد واقعی: چه انتظاری داشته باشیم؟

با توجه به مشخصات سیستم شما، انتظارات واقع‌بینانه‌ای داشته باشید:

مقایسه با سیستم‌های قدرتمندتر

برای درک بهتر، این جدول مقایسه‌ای را ببینید:

همانطور که می‌بینید، سیستم شما کندتر از گزینه‌های حرفه‌ای است، اما همچنان برای بسیاری از کارهای روزمره قابل استفاده است.

جمع‌بندی: آیا ارزش دارد؟

پاسخ قطعی: بله!

با وجود محدودیت‌ها، اجرای هوش مصنوعی لوکال روی این سیستم ارزشمند است، زیرا:

✅ کاملاً رایگان است و نیازی به پرداخت اشتراک ندارید
✅ حریم خصوصی شما را حفظ می‌کند
✅ آفلاین کار می‌کند و به اینترنت وابسته نیست
✅ برای کدنویسی روزمره و پروژه‌های کوچک کافی است
✅ می‌توانید از آن در محیط VS Code و مستقیماً در حین کدنویسی استفاده کنید

تنها نکته‌ای که باید در نظر داشته باشید، سرعت کمتر نسبت به سیستم‌های مدرن است. اما با مدیریت صحیح انتظارات و استفاده از تکنیک‌های بهینه‌سازی، این راه‌اندازی می‌تواند بسیار مفید باشد.

پیشنهادات برای آینده

اگر در آینده قصد ارتقای سیستم خود را دارید، این موارد را در نظر بگیرید:

۱. ارتقای کارت گرافیک: یک کارت گرافیک با حداقل ۸ گیگابایت حافظه (مثل RTX 3060 یا بهتر) می‌تواند سرعت را چندین برابر کند.

۲. افزایش رم: ۳۲ گیگابایت رم به شما امکان اجرای مدل‌های بزرگ‌تر را می‌دهد.

۳. پردازنده جدیدتر: پردازنده‌های نسل هشتم به بالا از دستورات AVX2 پشتیبانی می‌کنند که سرعت اجرای مدل‌های هوش مصنوعی را افزایش می‌دهد.

منابع مفید

• وبسایت رسمی Ollama

• مستندات مدل Qwen-Coder

• افزونه Kilo Code برای VS Code

نظرات و سوالات

آیا شما هم تجربه‌ی اجرای هوش مصنوعی لوکال روی سیستم‌های قدیمی را دارید؟ خوشحال می‌شوم نظرات و تجربیات شما را در بخش کامنت‌ها بخوانم. اگر در حین راه‌اندازی به مشکل برخوردید، سوالات خود را بپرسید تا بتوانم کمک کنم.