Qui est responsable quand ChatGPT donne un mauvais conseil?

Trois semaines après l’ouverture de ChatGPT au public, énormément de gens lui posent des questions qu’ils posaient auparavant à un ami, à un moteur de recherche ou à un professionnel. La plupart des réponses sont raisonnables. Certaines sont fausses d’une manière difficile à repérer, parce qu’elles sont écrites dans le même style calme et fluide que les bonnes. Une question légitime se pose donc : si vous suivez le conseil d’un robot conversationnel et que les choses tournent mal, à qui la faute?

Cet article explique ce que disent les propres documents d’OpenAI et ce que cela signifie en pratique. Il s’agit d’une explication générale, pas d’un avis juridique; les lois varient d’un endroit à l’autre, et seul un avocat peut vous dire comment elles s’appliquent à une situation précise.

Ce que disent les conditions d’OpenAI

Les conditions d’utilisation d’OpenAI, modifiées pour la dernière fois le 13 décembre, s’appliquent à tous ses services, y compris ChatGPT. Quelques points sont directement pertinents :

• Aucune promesse d’exactitude. Les conditions indiquent que les services sont fournis « tels quels » et qu’OpenAI ne garantit pas qu’ils seront exacts ou exempts d’erreurs.
• L’utilisateur est responsable du contenu. Les conditions appellent ce que vous tapez l’entrée et ce que le modèle renvoie la sortie, et l’ensemble, le contenu. Vous êtes propriétaire de votre entrée, OpenAI vous cède ses droits sur la sortie, et vous êtes responsable de ce contenu, notamment de vous assurer qu’il ne contrevient ni à la loi ni aux conditions.
• Responsabilité limitée. Les conditions plafonnent la responsabilité d’OpenAI au plus élevé de deux montants : ce que vous avez payé pour le service au cours des 12 mois précédents, ou 100 $ US. Pour un aperçu gratuit, c’est un petit chiffre.
• Âge. Les utilisateurs doivent avoir 18 ans ou plus.

OpenAI ne cache pas non plus les faiblesses du modèle. Son billet de lancement indique que ChatGPT écrit parfois des réponses qui semblent plausibles, mais qui sont incorrectes ou n’ont aucun sens, et en explique en partie la raison : pendant une étape de l’entraînement, le modèle n’a aucune source de vérité à laquelle se comparer.

« Vous êtes responsable du contenu, notamment de vous assurer qu’il ne contrevient à aucune loi applicable ni aux présentes conditions. » (Conditions d’utilisation d’OpenAI, 13 décembre 2022)

Ce que cela signifie en pratique

Lus ensemble, ces documents décrivent un outil, pas un conseiller. Un fabricant de calculatrices ne vérifie pas votre déclaration de revenus, et un logiciel de traitement de texte ne se porte pas garant de la lettre que vous y tapez. ChatGPT est plus proche de ces outils que d’un médecin ou d’un comptable : il produit du texte, et la personne qui utilise ce texte décide quoi en faire.

Stack Overflow, le grand site de questions et réponses pour les programmeurs, a donné un exemple frappant de l’importance de cette distinction. Le 5 décembre, ses modérateurs ont temporairement interdit les réponses rédigées avec ChatGPT. Leur explication n’était pas que les réponses étaient toujours fausses, mais que beaucoup étaient fausses tout en ayant l’air bonnes, qu’elles étaient très faciles à produire et que bien des gens les publiaient sans avoir les connaissances ou la volonté de les vérifier d’abord. Résultat : des milliers de réponses qui demandaient chacune la relecture d’un expert. La leçon dépasse la programmation : le coût d’une réponse non vérifiée retombe sur la personne qui s’y fie.

Cela ne rend pas l’outil inutile pour les sujets sérieux. Cela change la tâche que vous lui confiez. Demandez-lui d’expliquer, d’organiser et de préparer, et laissez la décision à vous-même et à des personnes qualifiées.

Un exemple complet : poser une question de santé en toute sécurité

Supposons que votre médecin vous a dit que votre tension artérielle est « un peu élevée » et que vous voulez comprendre de quoi il retourne avant votre prochain rendez-vous. Comparez deux façons de demander.

La version risquée demande au robot conversationnel de prendre une décision médicale :

Ma tension artérielle est de 145 sur 92. Est-ce que je devrais arrêter de prendre mes médicaments et essayer plutôt de changer mon alimentation?

Une version plus sûre lui demande de vous aider à comprendre et à vous préparer, et laisse la décision à votre médecin :

Mon médecin m’a dit que ma tension artérielle est un peu élevée. Je ne te demande pas de me diagnostiquer ni de modifier mon traitement.

1. Explique en mots simples ce que signifient les deux chiffres d’une mesure de tension artérielle.
2. Énumère les facteurs généraux liés au mode de vie dont on discute couramment avec les médecins au sujet de la tension artérielle.
3. Rédige huit questions que je pourrais apporter à mon prochain rendez-vous.

Signale tout ce dont tu n’es pas sûr.

Le second prompt mise sur les forces de l’outil : expliquer des termes, organiser un sujet et rédiger des questions. Il ne demande ni dose, ni diagnostic, ni décision par oui ou par non. Et il réduit les détails personnels au minimum, ce qui compte parce que les conditions d’OpenAI indiquent que l’entreprise peut utiliser le contenu soumis pour améliorer ses services.

Comment l’utiliser pour des questions de santé, de droit ou d’argent?

Utilisez-le avant et après la discussion avec un professionnel, jamais à sa place. Avant, il peut expliquer le vocabulaire, présenter les grandes lignes de l’organisation habituelle d’un sujet et vous aider à noter ce que vous voulez demander. Après, il peut vous aider à résumer vos propres notes en langage simple. Dans les deux cas, c’est vous qui fournissez les faits, et une personne qualifiée qui apporte le jugement.

Surveillez trois signaux d’alarme dans toute réponse : un chiffre précis (une dose, une échéance, un montant) que vous n’avez vu dans aucune source officielle, une affirmation assurée sur ce que la loi ou une règle « dit » sans référence que vous pouvez vérifier, et un conseil qui serait difficile à défaire. Chacun est un signal pour vous arrêter et vérifier. ChatGPT n’indique aucune source pour ses réponses; vous ne pouvez donc pas savoir si une règle qu’il décrit est toujours en vigueur.

Enfin, gardez vos renseignements personnels hors de la conversation. Vous avez rarement besoin de votre nom complet, de vos numéros de compte ou de votre dossier médical pour obtenir une explication utile. Une question formulée en termes généraux obtient habituellement une meilleure réponse de toute façon, et elle garde la partie la plus délicate du problème là où elle doit être : entre vos mains et celles des personnes à qui vous faites confiance pour vous conseiller.