Qu’est-ce que le Plan directeur américain pour une déclaration des droits de l’IA?

Il y a trois semaines, l’OSTP (Office of Science and Technology Policy), le bureau de la politique scientifique et technologique de la Maison-Blanche, a publié un document intitulé Blueprint for an AI Bill of Rights, soit un « Plan directeur pour une déclaration des droits de l’IA ». Le rôle de l’OSTP est de conseiller le président sur les questions scientifiques et techniques. Son plan directeur décrit ce que les gens aux États-Unis devraient pouvoir attendre lorsqu’un logiciel aide à décider s’ils obtiennent un emploi, un prêt, un appartement ou des soins médicaux.

Le mot « plan directeur » compte. Le document dit clairement qu’il n’est pas contraignant : il ne constitue pas une politique officielle du gouvernement, ne modifie aucune loi existante et ne donne à personne un nouveau droit qu’on pourrait faire valoir devant un tribunal. La MIT Technology Review en souligne la raison : l’OSTP ne peut pas adopter de lois. Toute nouvelle obligation légale devrait venir du Congrès, des législatures des États ou des organismes de réglementation. Ce que le plan directeur offre plutôt, c’est un vocabulaire commun et une liste de vérification que les entreprises, les organismes publics et les législateurs peuvent emprunter.

Ce qui compte comme un « système automatisé »

Le plan directeur évite délibérément de définir l’« IA » de façon étroite. Il souligne que des préjudices peuvent venir de logiciels simples aussi bien que d’apprentissage automatique avancé; il utilise donc un critère en deux parties. Un système est visé s’il est automatisé et s’il peut avoir un effet important sur les droits des gens, sur leurs possibilités ou sur leur accès à des ressources et à des services essentiels.

En pratique, cela couvre des domaines comme l’emploi, l’éducation, le logement, le crédit, les soins de santé, les services sociaux et les prestations gouvernementales. Un programme qui recommande des chansons n’est pas la cible. Un programme qui classe des candidats à un emploi, signale des locataires comme risqués ou fixe le prix de l’assurance de quelqu’un l’est.

L’introduction du document expose ses raisons en termes concrets. Elle mentionne des systèmes de soins aux patients qui se sont révélés dangereux ou biaisés, et des algorithmes d’embauche et de crédit qui reproduisaient de vieilles inégalités ou en créaient de nouvelles. En plus des cinq principes, l’OSTP a publié un guide plus long intitulé From Principles to Practice (Des principes à la pratique), qui propose des mesures pratiques aux concepteurs et aux décideurs.

Un exemple concret : un outil d’embauche automatisé

Les principes sont plus faciles à comprendre quand on les applique à une situation réelle. Imaginez une entreprise de taille moyenne qui achète un outil de tri des curriculum vitæ. Le logiciel lit chaque candidature, lui attribue une note de 0 à 100 et ne transmet que les meilleures notes à un recruteur humain. Voici comment les cinq principes façonneraient cet outil si l’entreprise suivait le plan directeur.

Aucune de ces mesures n’exige de savoir comment le modèle de notation fonctionne à l’intérieur. Ce sont des questions que tout le monde peut poser : a-t-il été testé? Est-il équitable d’un groupe à l’autre? Quelles données utilise-t-il? M’en a-t-on informé? Puis-je joindre une personne?

Comment les gens réagissent

Les réactions sont partagées. La MIT Technology Review rapporte que Marc Rotenberg, du Center for AI and Digital Policy, a qualifié le plan directeur d’impressionnant et de « clairement un point de départ ». Russell Wald, du Stanford Institute for Human-Centered AI, a dit qu’il manque de détails et de mécanismes d’application. Certains défenseurs préféreraient des règles plus proches de la proposition de règlement sur l’IA de l’Union européenne, qui ajouterait des vérifications supplémentaires pour les usages présentant le plus grand potentiel de préjudice.

Pour une personne qui débute, ce qu’il faut retenir, c’est que le plan directeur est un point de référence. Quand vous lisez un article sur un algorithme qui a refusé des prestations à quelqu’un ou rejeté une candidature, les cinq principes vous donnent une façon structurée de vous demander ce qui a mal tourné.

Quelles protections propose-t-il?

Le plan directeur propose cinq protections, chacune formulée du point de vue de la personne touchée. La première est la protection contre les systèmes dangereux ou inefficaces : les outils automatisés devraient être conçus avec l’apport des communautés et des experts concernés, testés avant d’être utilisés, surveillés ensuite et évalués de façon indépendante, avec publication des résultats lorsque c’est possible. La deuxième est la protection contre la discrimination algorithmique, c’est-à-dire des différences injustifiées dans la façon dont un système traite les gens en raison de la race, du sexe, de l’âge, d’un handicap ou d’une autre caractéristique protégée. Cela exige des vérifications d’équité pendant la conception, des données représentatives et des tests continus pour détecter les résultats inégaux.

La troisième protection est la confidentialité des données. Les systèmes devraient ne recueillir que les données strictement nécessaires à une tâche, demander la permission en langage clair et éviter les conceptions trompeuses qui poussent les gens à en dévoiler davantage. Le plan directeur demande une prudence accrue dans les domaines sensibles comme la santé, les finances, l’éducation, le travail et la justice pénale, ainsi qu’avec les données sur les jeunes, et il s’oppose à la surveillance continue dans les écoles et les milieux de travail.

La quatrième est l’avis et l’explication : vous devriez savoir quand un système automatisé est utilisé à votre égard et pouvoir comprendre, en langage simple, comment il a contribué à une décision. La cinquième est une solution de rechange humaine : lorsque c’est approprié, vous devriez pouvoir vous retirer au profit d’une personne, et si le système commet une erreur, vous devriez pouvoir joindre rapidement quelqu’un qui peut l’examiner et la corriger. Dans des domaines comme l’emploi et la santé, le plan directeur demande un examen humain avant toute décision à risque élevé ou défavorable. Comme le document est un ensemble d’orientations, la part de tout cela qui deviendra obligatoire dépend des lois futures et des choix que les organisations feront d’elles-mêmes.