REDACTION EN COURS
Vous utilisez sans doute Claude, ChatGPT ou Gemini au quotidien. Mais vous savez certainement que chaque document collé part sur les serveurs d'un tiers. Ce qui peut être embêtant pour les données personnelles.
Et si l'IA tournait sur votre machine ? Gratuitement et sans connexion internet.
C'est ce que permet Ollama. Je préfère être 100 % transparent avec vous : je vais tout tester sur mon MacBook Pro M1 2020 avec 8 Go de RAM. Autant dire que j'ai une petite configuration 😅. Nous utiliserons donc un petit modèle, mais si de votre côté vous avez une plus grosse configuration n'hésitez pas à tester un plus gros modèle.
Le but n'est pas de rivaliser avec Claude ou GPT ici, mais de faire tourner un petit modèle en local pour faire un premier pas avec Ollama.
Qu'est-ce qu'Ollama ?
Ollama est un outil open source avec plus de 175 000 étoiles sur GitHub qui permet de télécharger, de gérer et d'exécuter des modèles directement sur votre ordinateur.
Vous retrouverez dans la bibliothèque officielle les modèlesopen-weight comme Llama de Meta, Gemma de Google, Qwen d'Alibaba, DeepSeek et évidemment Mistral 🇫🇷.
À noter
Open-weight n'est pas open source : il s'agit du modèle déjà entraîné que vous pouvez faire tourner chez vous. On n'a généralement ni le code d'entraînement, ni les données utilisées pour les entraîner.
Installation
Bonne nouvelle : que vous soyez sur macOS, Windows ou Linux l'installation est simple. Alors rendez-vous sur la page de téléchargement.
macOS
Deux chemins possibles :
-
Avec interface graphique en récupérant le fichier
.dmg. Vous verrez une icône dans la barre de menu -
En ligne de commande uniquement
# Via le script officiel (le même que sur Linux) curl -fsSL https://ollama.com/install.sh | sh # Ou via Homebrew, si vous l'utilisez déjà brew install ollama
Ollama macOS
À noter
Avec le script curl ou homebrew, vous n'installerez que l'outil en ligne de commande, donc pas d'interface graphique. Pour avoir la version avec interface graphique depuis homebrew, il suffit de l'installer de cette manière : brew install --cask ollama-app.
Windows
Télécharger l'installateur et laissez-vous guider. Vous pouvez aussi passer par PowerShell avec la commande :
irm https://ollama.com/install.ps1 | iex
L'installation via PowerShell revient à passer par l'installateur. Vous aurez donc la version graphique.
Ollama Windows
Linux
Pour Linux il faut utiliser la commande :
curl -fsSL https://ollama.com/install.sh | sh
Ollama Linux
Il n'y a pas d'interface graphique native.
À noter
Pour la suite de ce guide, nous utiliserons la CLI.
Lancer son premier modèle
Une seule commande télécharge le modèle (au premier lancement) puis ouvre directement une discussion :
ollama run llama3.2:3b
On verra dans la section suivante comment ce choix se justifie selon votre configuration, mais ce modèle convient à un mon ordinateur qui n'a que 8 Go de RAM.
Un prompt interactif apparaît, j'en profite pour lui poser une question sur Django.
Première question dans le terminal
