Qu’est-ce que Claude, le nouvel assistant IA d’Anthropic?

Hier a été une journée chargée pour l’intelligence artificielle. OpenAI a annoncé GPT-4, Google a présenté des fonctions d’IA qui arrivent dans Gmail et Docs, et Anthropic, un laboratoire plus petit lancé par d’anciens employés d’OpenAI, a rendu son propre assistant, Claude, plus largement accessible. Claude était testé depuis plusieurs mois dans une version alpha fermée avec des partenaires comme Notion, Quora et DuckDuckGo. Désormais, n’importe quelle entreprise peut demander l’accès.

Comme ChatGPT, Claude est un grand modèle de langage : un programme entraîné sur d’énormes quantités de texte qui prédit les mots qui devraient venir ensuite, puis ajusté pour tenir une conversation. Vous tapez une demande en langage courant et il vous répond en langage courant. Anthropic cite le résumé, la recherche, l’écriture créative et collaborative, la réponse aux questions et la programmation parmi les tâches qu’il prend en charge.

Deux versions : Claude et Claude Instant

Anthropic lance deux modèles côte à côte. Claude est la version complète, à haute performance. Claude Instant est plus léger, moins cher et beaucoup plus rapide. Le choix est un compromis familier pour quiconque conçoit un produit : le gros modèle pour le travail soigné, le petit quand il faut beaucoup de réponses rapides et peu coûteuses.

L’accès passe par la console pour développeurs d’Anthropic, où les entreprises s’inscrivent, et par des produits partenaires. Certains d’entre vous ont peut-être déjà utilisé Claude sans le savoir. Quora l’offre dans Poe, son application de clavardage. Notion l’utilise dans Notion AI. DuckDuckGo l’utilise dans DuckAssist, une fonction qui rédige de courtes réponses tirées de Wikipédia et de sources connexes. Juni Learning fait fonctionner un robot de tutorat avec lui, et Robin AI s’en sert pour lire des contrats et suggérer des formulations.

D’où vient « utile, honnête et inoffensif »?

Anthropic décrit Claude comme fondé sur ses recherches pour entraîner des systèmes d’IA « utiles, honnêtes et inoffensifs ». Cette expression est un programme de recherche, pas seulement un slogan. En décembre 2022, des chercheurs d’Anthropic ont publié un article sur une méthode qu’ils appellent Constitutional AI (IA constitutionnelle). Au lieu de compter seulement sur des personnes pour signaler les mauvaises réponses, ils donnent au modèle une courte liste écrite de principes, sa « constitution ». Le modèle critique et réécrit ensuite ses propres brouillons en fonction de ces principes, et un autre modèle juge laquelle de deux réponses les respecte le mieux. Ces jugements deviennent le signal d’entraînement.

Le but affiché est un assistant qui refuse les demandes nuisibles en expliquant pourquoi, plutôt que de donner des non-réponses évasives. Le billet de lancement d’Anthropic ne précise pas exactement quelles étapes d’entraînement ont produit Claude : voyez donc l’article comme un éclairage sur la pensée de l’entreprise, pas comme une recette complète.

Selon Anthropic, les premiers clients rapportent que Claude produit moins souvent du contenu nuisible, qu’il est plus facile de converser avec lui et qu’il est plus « orientable » (steerable), c’est-à-dire qu’il suit bien les directives sur la personnalité, le ton et le comportement.

Essayer vous-même de l’orienter

La capacité d’orienter le modèle (steerability) mérite d’être testée, parce qu’elle change votre façon de rédiger vos prompts. Voici un prompt qui fixe le ton, le public et les limites d’un seul coup :

Tu es un bibliothécaire sympathique qui aide un enfant de 12 ans dans un projet scolaire.
Explique ce qu’est un volcan en moins de 120 mots.
Utilise une comparaison avec quelque chose qu’on trouve dans une cuisine.
Termine par une question que l’élève pourrait ensuite approfondir.

Donnez le même prompt à deux assistants et comparez à quel point chacun respecte la limite de mots, le public et le format. De petites différences dans la façon dont un modèle suit les consignes comptent davantage au quotidien que les grands chiffres des bancs d’essai.

En quoi Claude est-il différent de ChatGPT?

En surface, les deux font à peu près le même travail. The Verge note que Claude peut résumer, répondre à des questions, aider à la rédaction et générer du code, ce qui est l’essentiel de l’usage qu’on fait de ChatGPT. Les différences tiennent aux priorités de l’entreprise et à quelques détails pratiques.

D’abord, l’accent. Anthropic place la recherche sur la sécurité au cœur de son discours, et ses partenaires insistent sur la qualité de la conversation. Des utilisateurs de Poe cités par Anthropic décrivent les réponses de Claude comme détaillées et naturelles, et l’un d’eux affirme qu’il « semble plus conversationnel que ChatGPT ». Ce sont des impressions de clients choisies par l’entreprise : il est donc juste de les lire comme des signaux précoces, pas comme des résultats de tests.

Ensuite, le contrôle. Anthropic souligne que vous pouvez diriger la personnalité, le ton et le comportement de Claude. The Verge oppose cela aux trois modes fixes (créatif, équilibré et précis) du clavardage de Bing de Microsoft.

Troisièmement, la connexion au Web. Anthropic affirme que Claude est autonome et ne peut pas naviguer sur Internet. Comme ChatGPT dans sa forme standard, il répond à partir de ce qu’il a appris pendant son entraînement : il peut donc être dépassé ou simplement se tromper. L’approche de DuckDuckGo, qui lui fournit des sources fiables, est l’une des façons dont les partenaires règlent ce problème. Quel que soit l’assistant que vous utilisez, l’habitude reste la même : vérifiez les noms, les chiffres et les citations avant de vous y fier.

Enfin, la disponibilité. ChatGPT a un site Web public gratuit que n’importe qui peut essayer. Claude, pour l’instant, rejoint la plupart des gens par l’accès pour entreprises et par des applications partenaires comme Poe et Notion. Beaucoup s’attendent à ce que le choix d’assistants continue de s’élargir cette année, d’où l’utilité d’apprendre des techniques de prompt qui se transposent d’un modèle à l’autre.