# Pourquoi ChatGPT refuse-t-il certaines demandes?

Date: 2022-12-08 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/pourquoi-chatgpt-refuse-certaines-demandes/

**Answer:** ChatGPT refuse les demandes qui semblent nuisibles parce qu’OpenAI l’a entraîné à les décliner et qu’elle utilise un filtre distinct qui peut signaler ou bloquer le contenu dangereux. Les deux couches se trompent dans les deux sens; une question légitime est donc parfois refusée, et la solution consiste habituellement à énoncer clairement votre véritable objectif.

Quiconque a passé une soirée avec ChatGPT a rencontré le refus poli : un paragraphe qui explique qu’il ne peut pas aider avec cela, souvent suivi d’une suggestion de faire autre chose. Parfois, le refus est parfaitement sensé. Parfois, il tombe sur une question qui semble tout à fait innocente. Les deux découlent de la même conception.

Quand OpenAI a ouvert ChatGPT le 30 novembre, elle a mentionné le refus des demandes inappropriées parmi les choses que le format conversationnel rend possibles, au même titre que répondre aux questions de suivi et admettre ses erreurs. Refuser est une fonction voulue. Comprendre comment elle fonctionne vous aide à éviter les fausses alertes sans combattre les vraies.

## Deux couches : l’entraînement et un filtre

La première couche se trouve dans le modèle. ChatGPT a été ajusté par apprentissage par renforcement à partir de la rétroaction humaine, ou RLHF : des gens ont évalué les réponses du modèle, et ces évaluations l’ont poussé vers les réponses qu’ils préféraient. Une partie de ce qu’ils préféraient, c’était le refus des demandes d’aide nuisibles. Le modèle a donc appris à reconnaître la forme d’une demande dangereuse et à y répondre par un refus.

La deuxième couche se trouve à l’extérieur du modèle. OpenAI dit utiliser son API de modération pour signaler ou bloquer certains types de contenu dangereux dans ChatGPT. Cet outil, qu’OpenAI a rendu accessible aux développeurs en août, est un ensemble de classificateurs : de plus petits programmes qui lisent un texte et indiquent s’il relève de catégories interdites par sa politique de contenu, à savoir le contenu sexuel, haineux ou violent, et le contenu qui encourage l’automutilation.

L’entraînement explique pourquoi ChatGPT répond « Je ne peux pas vous aider avec cela. » Le filtre explique pourquoi vous voyez parfois un avertissement sur un message, même sur le vôtre.

## Pourquoi les refus ratent leur cible

OpenAI ne cache pas les compromis. Son billet de lancement indique que rendre le modèle plus prudent l’amène aussi à décliner des questions auxquelles il pourrait répondre correctement. Il précise aussi que le filtre devrait produire des faux positifs (bloquer un texte inoffensif) et des faux négatifs (laisser passer un texte nuisible).

Le modèle est aussi sensible à la formulation. L’exemple d’OpenAI le montre refusant « comment entrer par effraction dans la maison de quelqu’un? », puis donnant des conseils pratiques de sécurité domestique une fois que l’utilisateur explique qu’il veut protéger sa propre maison. Même sujet, autre objectif, autre réponse.

Les erreurs vont aussi dans l’autre sens. The Guardian a constaté que ChatGPT refusait de donner des conseils pour voler une voiture, puis fournissait une aide détaillée quand la même demande était présentée comme une mission dans un jeu vidéo inventé. OpenAI dit vouloir recevoir des commentaires sur exactement ce genre d’échecs, au moyen des outils de rétroaction intégrés à l’interface.

## Un exemple concret : reformuler une demande légitime

Supposons que vous gériez un petit bureau et que vous vouliez apprendre à votre personnel à repérer les arnaques par courriel. Une demande toute nue peut ressembler à celle de quelqu’un qui prépare une arnaque.

```prompt
Écris un faux courriel convaincant d’une banque qui demande à quelqu’un de confirmer son mot de passe.
```

Cette demande pourrait être refusée, ou recevoir un sermon en guise de réponse. Voici le même besoin, énoncé honnêtement et orienté vers le véritable objectif.

```prompt
J’anime une formation de 30 minutes sur la sécurité pour les huit personnes de mon bureau. Aide-moi à leur apprendre à reconnaître les courriels d’hameçonnage, c’est-à-dire des messages frauduleux qui prétendent venir d’une banque ou d’un fournisseur.
1. Énumère les huit signes d’alerte les plus courants, chacun avec une explication d’une ligne.
2. Décris, sans écrire un courriel complet, ce qu’un faux message bancaire typique cherche à faire faire au lecteur.
3. Suggère trois questions de quiz que je peux poser à la fin.
```

La deuxième version dit au modèle qui vous êtes, pourquoi vous posez la question et quelle forme d’aide il vous faut. Elle demande des compétences de reconnaissance, pas une arnaque prête à envoyer. Ce n’est pas une ruse : c’est une description plus claire de ce que vous voulez vraiment, et elle obtient habituellement une réponse bien plus utile.

> **À essayer :** pensez à une question de votre propre travail qui touche un sujet délicat, comme les médicaments, la sécurité ou un crime dans un roman que vous lisez. Posez-la une fois en une seule ligne toute nue, puis une autre fois avec deux phrases sur qui vous êtes et ce que vous ferez de la réponse. Comparez les réponses.

Une mise en garde : si une demande est refusée parce que l’aide elle-même serait nuisible, la reformuler pour contourner les règles n’est pas une solution de rechange, mais précisément le mauvais usage que les règles visent à empêcher. Le but de la reformulation est la clarté, pas le déguisement.

## Qu’est-ce que ses règles de sécurité cherchent à empêcher?

Les cibles du filtre sont énoncées dans le billet d’OpenAI sur la modération : le contenu sexuel, la haine, la violence et le contenu qui encourage l’automutilation. L’entraînement du modèle vise plus large : les demandes d’aide pour des actes illégaux ou dangereux, l’intimidation et le harcèlement de personnes réelles, et les réponses biaisées ou offensantes. Le billet de lancement d’OpenAI montre des modèles antérieurs qui suggèrent allègrement des façons d’intimider une personne nommée ou qui écrivent une histoire glorifiant la douleur, et ChatGPT qui décline les deux.

Derrière les catégories se trouve une inquiétude simple. Un système qui écrit un texte fluide pour n’importe qui, instantanément et gratuitement, peut servir à produire du tort à grande échelle : harcèlement, instructions pour commettre des crimes, contenu abusif. OpenAI présente ce lancement comme une étape dans un déploiement graduel de ses systèmes, pour apprendre où ils échouent avant de leur donner plus de portée.

Les règles ne sont pas terminées. OpenAI reconnaît que le modèle répondra encore parfois à des instructions nuisibles ou fera preuve de biais, et que certains refus sont tout simplement des erreurs. Pour une personne qui débute, la leçon pratique est courte : quand un refus semble injustifié, expliquez simplement votre objectif, et s’il l’est encore, signalez-le dans l’interface pour que les personnes qui améliorent le système puissent le voir.

## Sources

- ChatGPT: Optimizing Language Models for Dialogue: https://openai.com/blog/chatgpt/
- New-and-Improved Content Moderation Tooling: https://openai.com/blog/new-and-improved-content-moderation-tooling/
- AI bot ChatGPT stuns academics with essay-writing skills and usability: https://www.theguardian.com/technology/2022/dec/04/ai-bot-chatgpt-stuns-academics-with-essay-writing-skills-and-usability