Un modèle open weight n'est pas forcément un modèle open source. Il publie ses poids, c'est-à-dire les milliards de paramètres. Chacun peut le télécharger et le faire tourner sur sa machine, mais la licence nous dit ce que l'on a le droit de faire ou non.
Comment fonctionne un modèle open weight ?
Les poids d'un LLM correspondent aux milliards de valeurs ajustées pendant son entraînement. En gros, il s'agit de tout le savoir du modèle.
Quand les paramètres sont publiés, on peut l'exécuter localement, l'intégrer et même le fine-tuner si l'envie vous en prend 😎. On retrouve de l'open weight chez DeepSeek, Mistral, Meta, etc.
Les modèles fermés ne s'utilisent que via une interface web ou une API.
Quelle différence entre open weight et open source ?
Un logiciel open source publie son code source. Pour qu'un modèle soit open source, il faut publier, en plus des poids, le code d'entraînement et une description des données assez précise pour reconstruire un modèle équivalent. Ce n'est pas moi qui le dis, mais l'Open Source Initiative 🤓. Un modèle open weight, lui, se contente des poids : le code d'entraînement et les données restent chez l'éditeur.
Les licences peuvent varier aussi : certaines autorisent l'usage commercial, pour d'autres, il faut un accord de l'éditeur au-delà d'un certain nombre d'utilisateurs ou de chiffre d'affaires, etc.
Pourquoi utiliser un modèle open weight ?
Un modèle qui tourne en local garantit que les données restent en local. L'exemple parfait : le traitement de documents confidentiels. Et en plus, vous ne payez pas les requêtes.
La contrepartie : le matériel. Selon Meta, 30 milliards de paramètres peuvent demander plus de 55 Go de mémoire, moins de 20 Go s'ils sont compressés. Vous imaginez bien que, pour les plus gros modèles, il vous faudra une ferme.
