Qu’est-ce que Llama 2, et pourquoi un modèle offert ouvertement est-il important?

Hier, Meta a publié Llama 2, la nouvelle génération de son grand modèle de langage, et l’a rendu gratuit pour la recherche comme pour l’usage commercial. Contrairement à ChatGPT ou à Claude, que l’on joint par un site Web ou une connexion payante exploitée par l’entreprise qui les a conçus, Llama 2 se présente comme un ensemble de fichiers que vous pouvez télécharger : les poids du modèle, plus du code de départ. Microsoft est le partenaire privilégié de Meta pour le lancement, et les modèles sont aussi offerts par Amazon Web Services, Hugging Face et d’autres fournisseurs.

Petite note de vocabulaire. Les poids d’un modèle sont les milliards de nombres qu’il a appris pendant son entraînement; ce sont eux, le modèle. Avoir les poids signifie que vous pouvez le faire tourner sur vos propres ordinateurs, l’ajuster sur vos propres données et étudier son comportement, sans envoyer votre texte à qui que ce soit.

Ce que Meta a publié

L’article de recherche publié en même temps que le lancement décrit deux familles :

« B » signifie milliards (billions) de paramètres, les valeurs ajustables à l’intérieur du modèle. Les petits modèles coûtent moins cher et tournent plus vite; les grands sont généralement plus compétents. Meta a aussi entraîné une version 34B, mais la garde pour l’instant, disant avoir manqué de temps pour en tester correctement la sécurité.

Par rapport au premier Llama, les nouveaux modèles ont appris à partir d’environ 40 % plus de données, à peu près 2 billions de jetons (un jeton est un mot ou une partie de mot), tirées de sources accessibles au public. Meta affirme avoir exclu les données de ses propres produits, comme Facebook, et retiré les sites connus pour contenir beaucoup de renseignements personnels. La longueur de contexte, c’est-à-dire la quantité de texte que le modèle peut prendre en compte à la fois, a doublé pour atteindre environ 4 000 jetons. Les versions conversationnelles ont été peaufinées grâce à la rétroaction humaine, un processus dans lequel des personnes notent les réponses et le modèle est entraîné à privilégier celles qu’elles préfèrent.

Pourquoi l’ouverture est importante

Meta soutient que publier des modèles ouvertement est à la fois plus équitable et plus sûr. Plus équitable, parce que les jeunes pousses, les chercheurs et les petites entreprises obtiennent un outil qu’ils n’auraient pas les moyens de construire eux-mêmes. Plus sûr, selon Meta, parce que beaucoup plus de développeurs peuvent tester le modèle, trouver des problèmes et partager des correctifs. Le premier Llama, offert aux chercheurs, a suscité plus de 100 000 demandes d’accès.

Pour les personnes qui apprennent et celles qui développent, les gains pratiques sont concrets :

• Confidentialité : vous pouvez garder les textes sensibles sur vos propres machines.
• Contrôle : le modèle ne changera pas sous vos pieds parce qu’un fournisseur l’a mis à jour.
• Personnalisation : vous pouvez lui appliquer un ajustement fin, c’est-à-dire l’entraîner un peu plus sur vos propres exemples, pour une tâche précise.
• Transparence : les chercheurs peuvent étudier directement un modèle compétent au lieu de faire des suppositions de l’extérieur.

L’ouverture déplace aussi la responsabilité. Quand vous faites tourner le modèle vous-même, vous prenez en charge les vérifications de sécurité qu’un service hébergé ferait autrement. L’article de Meta note que ses tests jusqu’ici ont été faits en anglais et ne pouvaient pas couvrir toutes les situations, et il demande aux développeurs de faire leurs propres tests de sécurité avant de déployer un produit fondé sur Llama 2-Chat. C’est pourquoi Meta publie un guide d’utilisation responsable (Responsible Use Guide) et une politique d’utilisation acceptable (Acceptable Use Policy).

Meta qualifie Llama 2 de modèle à code source ouvert. Sa licence ajoute toutefois ses propres conditions, présentées plus bas; « offert ouvertement » est donc peut-être la description la plus prudente.

Un exemple concret : un premier prompt d’essai

Llama 2-Chat suit les consignes à peu près comme les autres modèles conversationnels. Un test simple portant sur une tâche d’affaires précise pourrait ressembler à ceci :

Tu es l’assistant d’une petite boulangerie.
Écris trois réponses courtes et amicales à des clients qui demandent si nous avons
du pain sans gluten. Nous le cuisons seulement le vendredi et il est souvent écoulé avant midi.
Chaque réponse doit faire moins de 40 mots.

Essayez-le sur les modèles conversationnels 7B et 70B si vous le pouvez. Vous verrez habituellement le plus grand modèle suivre les détails de plus près, tandis que le plus petit répond plus vite et coûte moins cher à héberger. Choisir une taille est un compromis que vous faites avec vos propres tâches en main.

Une petite entreprise peut-elle utiliser Llama 2?

Oui. La licence, appelée Llama 2 Community License, permet l’usage commercial sans frais. Elle comporte une seule limite de taille, qui ne touchera pas une petite entreprise : toute entreprise dont les produits comptaient plus de 700 millions d’utilisateurs actifs par mois à la date de publication doit demander une licence distincte à Meta. Cette clause vise les plus grandes plateformes technologiques.

Il y a des conditions à respecter. Si vous partagez le modèle ou quelque chose qui en est dérivé, vous devez transmettre une copie de la licence et conserver l’avis d’attribution de Meta. Votre usage doit respecter la loi et la politique d’utilisation acceptable de Meta. Et vous ne pouvez pas utiliser Llama 2, ni ses résultats, pour améliorer un autre grand modèle de langage. Le modèle est fourni « tel quel », sans garantie; la responsabilité de son comportement dans votre produit vous revient donc.

Pour la plupart des petites entreprises, la grande question est pratique, pas juridique. Faire tourner un modèle soi-même, c’est payer du matériel adéquat ou des serveurs infonuagiques et avoir quelqu’un qui sait l’installer et le sécuriser. L’utiliser par Azure, AWS ou Hugging Face élimine une partie de ce travail. Pour beaucoup d’équipes, une voie raisonnable consiste à commencer avec une version hébergée, à la tester sur de vraies tâches, comme répondre aux clients ou résumer des documents, et seulement ensuite à décider si gérer soi-même l’installation en vaut la peine.