À quoi ressemble un usage responsable de l’IA pour vous?

La plupart des discussions sur l’éthique de l’IA se tiennent au niveau des gouvernements et des grandes entreprises. C’est important, mais cela peut laisser les utilisateurs ordinaires se demander ce que tout cela signifie à leur propre bureau. La bonne nouvelle, c’est que les mêmes principes s’appliquent à plus petite échelle. L’équité, la transparence, la vie privée et la responsabilité ont toutes une version personnelle, et chacune peut devenir une question que vous vous posez en quelques secondes.

ChatGPT : Le Guide Pour Débutant pose clairement le point de départ : ces outils peuvent se tromper et inventer des détails qui semblent vrais, alors une personne doit revoir ce qui en sort. L’usage responsable s’appuie là-dessus. Il s’agit moins de grandes règles que d’habitudes qui vous évitent des ennuis, à vous et aux personnes touchées par votre travail.

Quatre principes, version personnelle

En novembre 2021, les 193 États membres de l’UNESCO, l’agence des Nations Unies pour l’éducation, la science et la culture, ont adopté la première Recommandation mondiale sur l’éthique de l’intelligence artificielle. Elle s’adresse aux gouvernements, mais ses grands thèmes se transposent directement dans les choix quotidiens.

La Recommandation demande aussi des méthodes qui utilisent moins de données, d’énergie et de ressources. Pour une personne, cela peut être aussi simple que de ne pas générer vingt versions de quelque chose quand deux suffisent.

Une liste de vérification par l’exemple

Voici une liste de vérification que vous pouvez copier et adapter. Elle prend environ une minute par tâche.

Avant de demander

1. Y a-t-il quelque chose de personnel, de confidentiel ou qui appartient à quelqu’un d’autre dans ce que je m’apprête à coller? Si oui, je le retire ou je le remplace par des espaces réservés.
2. S’agit-il d’une décision qui touche une personne (embauche, notation, choix de santé ou d’argent)? Si oui, l’IA peut m’aider à réfléchir, mais ce n’est pas elle qui décide.

Pendant le travail

1. Ai-je demandé à l’outil de montrer son raisonnement ou d’énumérer ses hypothèses, pour que je puisse les vérifier?
2. La réponse traite-t-elle les gens équitablement, ou s’appuie-t-elle sur des stéréotypes?

Avant d’utiliser le résultat

1. Ai-je vérifié chaque nom, chiffre, date, citation et lien auprès d’une source fiable?
2. Les personnes qui vont se fier à ce travail s’attendraient-elles à savoir que l’IA y a contribué? Si oui, je le dis.
3. Suis-je à l’aise de signer ceci de mon propre nom?

Pour la voir à l’œuvre, imaginez une propriétaire de petite entreprise qui veut de l’aide pour rédiger une lettre de recommandation pour une ancienne employée. Le point 1 repère le premier problème : le brouillon du prompt contient l’adresse personnelle de l’employée et un problème de santé qui expliquait une longue absence. Ni l’un ni l’autre n’ont leur place dans le prompt, et le détail de santé n’a pas non plus sa place dans la lettre. La propriétaire réécrit sa demande avec seulement le titre du poste, les dates, les tâches et les points forts.

Aide-moi à rédiger une lettre de recommandation d’une page pour une ancienne employée. Poste : coordonnatrice de bureau, de mars 2020 à octobre 2023. Points forts : a organisé le passage à un nouveau système de réservation, a formé trois nouveaux employés, très fiable avec la clientèle. Garde un ton chaleureux et factuel. N’invente pas de réalisations; si tu as besoin de plus de détails, demande-moi.

Le point 5 s’applique ensuite au résultat. Si le brouillon affirme que l’employée « a augmenté les réservations de 30 % » et que personne ne lui a dit cela, le chiffre disparaît. Le point 7 est le test final : la lettre part sous la signature de la propriétaire, alors chaque phrase doit en être une qu’elle peut assumer.

Pourquoi les habitudes personnelles comptent

Les règles pour les entreprises prennent des années à rédiger et à faire appliquer. Vos habitudes s’appliquent dès aujourd’hui. Elles protègent aussi les personnes qui n’ont jamais choisi de faire partie de votre conversation avec une IA : le collègue dont vous auriez pu coller le courriel, la cliente dont vous avez résumé la plainte, l’élève dont vous avez demandé à l’outil de noter la dissertation. Penser à elles est au cœur d’un usage responsable.

Que demande l’UNESCO aux gouvernements et aux entreprises?

La Recommandation de 2021 demande aux États membres de bâtir le cadre juridique et politique qui rend possible une IA éthique. Elle réclame une meilleure protection des données personnelles, en donnant aux gens plus de transparence et de contrôle sur l’utilisation de leurs données. Elle exclut explicitement l’utilisation de l’IA pour la notation sociale et la surveillance de masse. Elle couvre la transparence, la responsabilité et la vie privée dans des domaines comme la gouvernance des données, l’éducation, la culture, le travail, la santé et l’économie, et elle demande aux personnes qui conçoivent et utilisent l’IA de privilégier des méthodes efficaces qui limitent les dommages à l’environnement. L’UNESCO affirme qu’elle aidera les pays à appliquer le texte et s’attend à recevoir d’eux des rapports d’étape réguliers.

En 2023, à mesure que des outils comme ChatGPT entraient dans les salles de classe, l’UNESCO a ajouté des demandes plus précises. En septembre, elle a publié ses premières orientations sur l’IA générative en éducation et en recherche. Parmi d’autres mesures, elle demande aux gouvernements d’encadrer ces outils dans les écoles, de protéger la confidentialité des données des utilisateurs et de fixer des limites pour les enfants de moins de 13 ans. Elle demande aussi de la formation pour le personnel enseignant et la protection des droits des enseignants et des chercheurs. L’UNESCO a noté que la plupart des pays n’ont pas encore de règles nationales sur l’IA générative, et que, lorsqu’elle a sondé plus de 450 écoles et universités, moins d’une sur dix avait des orientations officielles.

Pour les entreprises, le message qui traverse les deux documents est que les décisions qui touchent beaucoup de gens doivent être équitables, ouvertes à l’examen et contestables. Pour les personnes, la liste de vérification ci-dessus porte le même message, à la taille d’un seul bureau.