Mon PC peut-il le faire tourner ?
Les modèles d’IA ouverts peuvent tourner sur votre propre ordinateur, gratuitement et sans envoyer vos données ailleurs. Indiquez votre matériel et voyez lesquels conviennent.
Estimations pour une conversation d’environ 8 000 tokens. Les longs documents demandent plus de mémoire, et la vitesse dépend aussi du reste de votre ordinateur. Les tailles des modèles viennent de Hugging Face. 4 bits, compresséi: La compression réduit un modèle pour qu’il tienne dans moins de mémoire : en 8 bits, il est presque identique à la qualité maximale ; en 4 bits, un peu moins précis, mais il prend environ trois fois moins de mémoire.
Comment faire tourner un modèle sur votre ordinateur
- Installez une application gratuite comme Ollama ou LM Studio (Windows, Mac et Linux). Ollama ↗ · LM Studio ↗
- Cherchez le modèle par son nom dans l’application et téléchargez la version compressée (souvent notée Q4_K_M) adaptée à votre mémoire.
- Discutez avec lui hors ligne : rien de ce que vous tapez ne quitte votre ordinateur.