هل يستطيع حاسوبي تشغيله؟
يمكن تشغيل نماذج الذكاء الاصطناعي المفتوحة على حاسوبك، مجانًا ودون إرسال بياناتك إلى أي مكان. أخبرنا بما لديك واكتشف ما يناسبه.
تقديرات لمحادثة من نحو 8000 رمز. تحتاج المستندات الطويلة إلى ذاكرة أكبر، وتتوقف السرعة أيضًا على بقية مكونات حاسوبك. أحجام النماذج مأخوذة من Hugging Face. 4 بت، مضغوطi: يقلّص الضغط حجم النموذج ليتسع في ذاكرة أقل: بدقة 8 بت يكاد يطابق الجودة الكاملة، وبدقة 4 بت يصبح أقل دقة بقليل لكنه يحتاج إلى نحو ثلث الذاكرة.
كيف تشغّل نموذجًا على حاسوبك
- ثبّت تطبيقًا مجانيًا مثل Ollama أو LM Studio (ويندوز وماك ولينكس). Ollama ↗ · LM Studio ↗
- ابحث عن النموذج باسمه في التطبيق، ونزّل النسخة المضغوطة (تُسمّى غالبًا Q4_K_M) التي تناسب ذاكرتك.
- تحدّث معه دون اتصال بالإنترنت: لا يغادر شيء مما تكتبه حاسوبك.