Peut-on empêcher ChatGPT d’utiliser vos conversations pour l’entraînement?

Jusqu’à hier, si vous ne vouliez pas que vos conversations avec ChatGPT servent à améliorer les modèles d’OpenAI, vous deviez passer par une démarche de retrait distincte. Le 25 avril 2023, OpenAI en a fait un simple interrupteur. Toute personne qui utilise ChatGPT peut maintenant désactiver l’historique des conversations (chat history), et toute conversation commencée pendant qu’il est désactivé reste en dehors de l’entraînement des modèles.

Le changement est en cours de déploiement pour tous les utilisateurs, et vous pouvez l’activer ou le désactiver en tout temps. OpenAI a aussi annoncé une nouvelle façon de télécharger tout ce que ChatGPT conserve à votre sujet, ainsi qu’une offre pour les entreprises aux règles plus strictes sur les données.

Ce qui a changé

L’annonce d’OpenAI porte sur trois choses :

Deux détails passent facilement inaperçus. D’abord, l’interrupteur s’applique aux conversations commencées pendant que l’historique est désactivé; décidez donc avant d’entamer une conversation délicate. Ensuite, « désactivé » ne veut pas dire « jamais conservé ». OpenAI indique qu’elle garde ces conversations 30 jours et ne les consulte qu’au besoin pour surveiller les abus, puis les supprime définitivement.

Pourquoi l’entraînement sur les conversations compte

Pour comprendre l’interrupteur, il est utile de savoir comment les robots conversationnels s’améliorent. ChatGPT repose sur un grand modèle de langage, un système entraîné sur de vastes quantités de texte pour prédire les mots qui devraient suivre. Après la première phase d’entraînement, les entreprises continuent de peaufiner le modèle avec des exemples de vraies conversations, souvent évaluées par des personnes, pour qu’il apprenne quelles réponses sont utiles. Vos conversations peuvent faire partie de ce matériel.

C’est utile pour améliorer ChatGPT, mais cela inquiète les gens qui y tapent des choses privées. Les modèles de langage apprennent de leurs données d’entraînement, et l’on craint que des fragments de texte personnel ou confidentiel refassent surface dans des réponses ultérieures. The Register rapporte que plusieurs grandes entreprises, dont JP Morgan, Goldman Sachs, Wells Fargo et Verizon, ont limité l’utilisation de ChatGPT par leurs employés exactement pour cette raison.

Comment utiliser le nouveau réglage

Voici la démarche de base, d’après la description d’OpenAI :

1. Ouvrez ChatGPT et allez dans Settings (paramètres).
2. Trouvez l’option d’historique des conversations et désactivez-la.
3. Commencez une nouvelle conversation. Un avis confirme que l’historique est désactivé : cette conversation reste hors de votre barre latérale et hors de l’entraînement, et OpenAI la supprime dans un délai de 30 jours.
4. Pour revenir en arrière, réactivez l’option. Les nouvelles conversations seront de nouveau enregistrées et pourront servir à améliorer le modèle.
5. Pour voir ce que ChatGPT a conservé jusqu’ici, utilisez la nouvelle option Export (exporter) dans les paramètres et surveillez vos courriels pour recevoir le fichier.

Le prix à payer, c’est la commodité. Avec l’historique désactivé, vous ne pourrez pas retrouver cette conversation plus tard; copiez donc tout ce que vous voulez garder avant de la fermer.

Pourquoi OpenAI le fait maintenant

OpenAI présente l’interrupteur comme une solution plus simple que son ancienne démarche de retrait. Le moment choisi est aussi difficile à ignorer. L’autorité italienne de protection des données a temporairement interdit ChatGPT le mois dernier, le temps d’examiner si le service respecte le droit européen sur la vie privée, et des organismes de réglementation au Canada, en France et en Espagne ont ouvert leurs propres enquêtes.

ChatGPT a aussi connu une alerte de confidentialité en mars, quand un bogue a permis à certains utilisateurs de voir des parties de l’historique de conversations d’autres personnes, ainsi que des renseignements de paiement de certains abonnés, comme des noms et des adresses courriel. OpenAI a brièvement mis le service hors ligne pour le corriger, et le PDG Sam Altman a déclaré que le problème venait d’une bibliothèque à code source ouvert sur laquelle repose le service. Dans ce contexte, donner aux utilisateurs un contrôle visible sur leurs données est un pas concret, même si ce n’est pas une réponse complète à toutes les préoccupations soulevées par les organismes de réglementation.

Que faut-il quand même garder hors de ChatGPT, même avec l’historique désactivé?

Désactiver l’historique limite l’usage qui est fait de vos mots, mais ne fait pas disparaître une conversation instantanément. Pendant 30 jours, le texte reste dans les systèmes d’OpenAI et peut être examiné en cas de soupçon d’abus. La règle la plus sûre n’a donc pas changé : ne tapez rien qui pourrait vous nuire si quelqu’un d’autre le lisait.

En pratique, gardez les mots de passe, les numéros de compte bancaire et de carte, les numéros de pièces d’identité gouvernementales et les dossiers médicaux hors de tout robot conversationnel. Au travail, suivez la politique de votre employeur, et ne collez pas de documents confidentiels, de données de clients ou de projets non annoncés, à moins que votre entreprise ait approuvé l’outil. Si vous devez travailler avec du vrai texte, retirez d’abord les noms et les détails permettant d’identifier quelqu’un, ou remplacez-les par des repères comme « Client A ».

Si votre organisation veut utiliser ChatGPT avec des données d’entreprise, l’offre ChatGPT Business prévue, qui suivra les règles plus strictes d’OpenAI pour les données des développeurs, vaut peut-être la peine d’être attendue. D’ici là, l’interrupteur d’historique est un outil utile pour les particuliers, et l’option d’exportation est une façon simple de voir ce que vous avez déjà partagé.