En bref : un modèle local est un modèle d'IA qui tourne sur votre propre ordinateur ou serveur plutôt que chez un fournisseur dans le cloud. Ce que vous tapez reste alors dans votre propre environnement. Il vous faut pour cela un modèle à poids ouverts et assez de mémoire pour le charger.
Modèles ouverts et fermés
Un modèle est constitué d'une immense série de nombres : les poids. Ils sont fixés pendant l'entraînement.
- Avec un modèle fermé, le créateur garde ces poids pour lui. Vous utilisez le modèle via une application ou une API de ce créateur.
- Avec un modèle à poids ouverts, vous pouvez télécharger les poids et faire tourner le modèle vous-même.
Exemples de créateurs qui publient des poids ouverts : Meta (Llama, téléchargeable après acceptation de la licence), Mistral AI (une partie de ses modèles, certains sous licence Apache 2.0), Moonshot AI (une partie des modèles Kimi) et xAI, qui a publié en 2024 les poids du premier modèle Grok.
Pourquoi travailler en local ?
- Vos données restent chez vous. Ollama, un programme très utilisé pour faire tourner des modèles en local, indique qu'il ne voit ni vos questions ni vos données quand vous travaillez en local.
- Aucune dépendance à un seul fournisseur, à ses prix ou à ses conditions.
En contrepartie, les modèles les plus puissants sont souvent fermés, ou si gros qu'ils ne tiennent pas sur un ordinateur ordinaire. Vous êtes aussi responsable vous-même de l'installation, de la sécurité et des mises à jour.
De quel matériel avez-vous besoin ?
La règle d'or : le modèle doit tenir en mémoire. Ollama explique qu'un modèle est chargé dans la mémoire vive (RAM) s'il tourne sur le processeur, ou dans la mémoire de la carte graphique (VRAM) s'il tourne sur le GPU. Un GPU (carte graphique) calcule beaucoup plus vite, tant que le modèle y tient entièrement. Sinon, Ollama répartit le modèle sur plusieurs cartes, ou entre le GPU et le processeur.
La quantité exacte de mémoire nécessaire dépend du modèle, de la longueur de la conversation (le contexte) et du nombre de personnes qui l'utilisent en même temps. Les plus grands modèles ouverts exigent du matériel de serveur : selon Moonshot, Kimi K3 compte par exemple 2 800 milliards de paramètres.
Qu'est-ce qu'Ollama ?
Ollama est un logiciel libre pour macOS, Windows et Linux qui permet de télécharger et de faire tourner des modèles ouverts. De nombreuses applications s'y connectent, comme des logiciels de chat et des outils de développement.
Pouvez-vous utiliser des modèles ouverts à des fins professionnelles ?
Cela dépend de la licence. Apache 2.0 est très permissive. D'autres modèles ont leur propre licence, avec des conditions, comme Llama et Kimi. Lisez toujours la licence avant d'utiliser un modèle dans votre entreprise.
Situation en octobre 2026. Les modèles et les licences évoluent vite ; vérifiez la situation actuelle à la source.
Sources
- FAQ d'Ollama (confidentialité, mémoire, GPU et CPU)
- Ollama : hardware support
- Ollama sur GitHub (installation pour macOS, Windows et Linux)
- Meta : Getting the models (Llama)
- Mistral AI : Models overview
- Hugging Face : fiche du modèle Kimi K3 (licence)
- xAI : Company (chronologie, publication ouverte de Grok-1)
Consulté le 21 octobre 2026.