Qu’est-ce qu’un agent d’IA, et en quoi est-il différent d’un robot conversationnel?

Depuis trois semaines, l’« agent d’IA » est passé des articles de recherche aux ordinateurs des gens, en grande partie grâce à Auto-GPT, un projet à code source ouvert publié le 30 mars. Son README, la page d’instructions principale du projet, décrit un programme piloté par GPT-4 qui enchaîne les « pensées » du modèle pour poursuivre l’objectif que vous lui fixez. C’est une autre façon d’utiliser un modèle de langage que de taper dans ChatGPT, et il vaut mieux comprendre la différence avant d’en essayer un.

Les quatre parties d’un agent

Un robot conversationnel a une seule tâche : lire la conversation et écrire la réponse suivante. Un agent enveloppe le même type de modèle dans quatre parties supplémentaires.

1. Un objectif. Au lieu d’une question, vous donnez un but. Auto-GPT vous demande de nommer votre IA, de décrire son rôle et d’énumérer jusqu’à cinq objectifs.
2. Des outils. L’agent peut agir dans le monde, pas seulement écrire du texte. La première version d’Auto-GPT énumérait des commandes comme la recherche Google, la navigation sur un site Web, l’écriture dans un fichier, le lancement d’agents auxiliaires et la déclaration que la tâche est terminée.
3. Une boucle. Après chaque action, le résultat est renvoyé au modèle, qui décide de l’étape suivante. Le cycle se répète jusqu’à ce que l’agent juge l’objectif atteint, ou jusqu’à ce que vous l’arrêtiez.
4. Une mémoire. Comme un modèle ne peut lire qu’une quantité limitée de texte à la fois, les agents prennent des notes. Auto-GPT a une mémoire à court et à long terme, et on peut même y précharger des documents découpés en morceaux qu’il pourra retrouver plus tard.

L’idée de mêler réflexion et action a des racines dans la recherche. Un article de 2022 intitulé ReAct, pour reasoning and acting (raisonner et agir), faisait alterner des modèles de langage entre l’écriture de leur raisonnement et des actions, comme chercher une information au moyen d’un outil Wikipédia simple. Les auteurs ont constaté que consulter des sources externes réduisait les faits inventés par rapport au raisonnement seul. Auto-GPT applique un modèle semblable : à chaque tour, le modèle renvoie ses pensées, son raisonnement, un court plan, une autocritique et une commande à exécuter.

Un exemple commenté : là où un agent bloque

Voici le genre d’objectif qu’une personne débutante pourrait donner à un agent :

Nom : TripPlanner
Rôle : un assistant qui planifie des fins de semaine abordables
Objectif 1 : trouve trois activités familiales à faire à Québec en juillet.
Objectif 2 : estime le coût de chacune pour deux adultes et deux enfants.
Objectif 3 : enregistre les résultats dans un fichier appelé trip.txt.

Le déroulement ci-dessous est illustratif : il a été écrit pour montrer un comportement typique, et non copié d’une exécution réelle.

À l’étape 7, l’agent tourne en rond. Il ne peut pas remplir le formulaire du site, il n’a aucun moyen de savoir que les prix de l’an dernier sont périmés, et sa mémoire de ce qu’il a déjà essayé est incomplète. Chaque étape coûte aussi de l’argent, puisque chaque tour est un appel payant à l’API d’OpenAI. Remarquez aussi qu’il n’a toujours pas écrit trip.txt, la seule partie de l’objectif que vous pourriez facilement vérifier.

C’est pourquoi Auto-GPT, par défaut, s’arrête après chaque action et vous demande d’autoriser la commande suivante, de taper une rétroaction ou de quitter. Vous pouvez approuver plusieurs étapes d’un coup, et il existe un « mode continu » (continuous mode) qui fonctionne sans aucune approbation. Le README qualifie ce mode de potentiellement dangereux et prévient qu’il peut tourner indéfiniment ou poser des gestes que vous n’autoriseriez pas.

Que peuvent vraiment faire aujourd’hui des agents comme AutoGPT?

Ils peuvent accomplir de courtes corvées de recherche et de rédaction bien définies : lancer quelques recherches, lire des pages, rassembler des notes et enregistrer un résumé dans un fichier. Pour les développeurs, c’est une façon fascinante de voir jusqu’où un modèle peut planifier seul. Le logiciel évolue vite : le README conseille actuellement de télécharger la version stable, parce que la version de développement principale peut souvent être défectueuse.

Ce ne sont pas encore des assistants fiables. Le README énumère clairement les limites : c’est une expérience, pas un produit fini, il peut avoir du mal avec les problèmes d’affaires désordonnés du monde réel, et il coûte cher à faire tourner, une journée complète de développement pouvant facilement coûter environ 20 $ US en frais d’API. Les agents peuvent se répéter, s’engager dans des impasses et se fier à des sources faibles, comme le montre l’exemple. L’installation exige aussi une certaine aisance avec le terminal, Python et une clé d’API OpenAI payante.

Si vous faites l’essai, gardez des objectifs petits et vérifiables, laissez l’approbation activée, fixez des limites de dépenses dans votre compte d’API et surveillez chaque étape. Le README recommande aussi une machine virtuelle distincte pour tout ce qui exige une sécurité solide. Voyez les agents d’aujourd’hui comme un avant-goût d’une nouvelle façon de travailler, et gardez les décisions importantes entre vos mains.