# Qu’est-ce que la proposition de législation de l’UE sur l’intelligence artificielle?

Date: 2021-05-04 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/proposition-legislation-ue-intelligence-artificielle/

**Answer:** La législation sur l’intelligence artificielle est un projet de loi que la Commission européenne a proposé le 21 avril 2021 pour établir des règles communes sur l’intelligence artificielle dans toute l’Union européenne. Elle classe les usages de l’IA selon leur risque : elle en interdit quelques-uns, impose des obligations strictes aux systèmes à haut risque, exige de la transparence pour certains autres et laisse la plupart des outils tranquilles.

Il y a deux semaines, le 21 avril, la Commission européenne a publié une proposition de règlement qu’elle appelle la « législation sur l’intelligence artificielle ». La Commission la présente comme le tout premier cadre juridique sur l’IA. Au lieu de réglementer une technologie dans son ensemble, elle s’intéresse à l’usage qu’on fait d’un système d’IA et au tort que cet usage pourrait causer. Le même type de logiciel pourrait être inoffensif dans un jeu vidéo et strictement encadré dans un outil d’embauche.

Il importe d’être clair sur un point : il s’agit d’une proposition, pas d’une loi. Le Parlement européen et les États membres, réunis au sein du Conseil, doivent encore en débattre, la modifier et s’entendre sur un texte final. Ce processus prend habituellement beaucoup de temps, et les détails pourraient changer considérablement avant que quoi que ce soit s’applique.

## Les quatre niveaux de risque

Le texte juridique lui-même distingue les usages qui créent un risque inacceptable, un risque élevé, et un risque faible ou minimal, puis ajoute des règles de transparence particulières pour certains systèmes. L’annonce de la Commission présente cela comme quatre niveaux, ce qui est la façon la plus simple de le lire :

1. **Risque inacceptable : interdit.** Ce sont des usages perçus comme une menace claire pour la sécurité ou les droits des personnes. La proposition énumère l’IA qui manipule les gens au moyen de techniques subliminales, l’IA qui exploite de façon nuisible les vulnérabilités de groupes comme les enfants ou les personnes handicapées, la « notation sociale » généralisée par les autorités publiques et, sauf exceptions étroites, la reconnaissance faciale en temps réel et les autres formes d’identification biométrique à distance dans les espaces publics par la police.
2. **Risque élevé : autorisé, avec des obligations strictes.** Une annexe de la proposition énumère les domaines où l’IA peut influer sur les chances d’une personne dans la vie, comme l’éducation, l’emploi, le crédit, les prestations publiques, l’application de la loi, la migration et la justice.
3. **Risque limité : transparence.** Les gens doivent être avisés quand ils parlent à un système d’IA, à moins que ce soit évident, et quand on utilise la reconnaissance des émotions sur eux. Les images, les sons ou les vidéos faux mais réalistes (les hypertrucages, ou *deep fakes*) doivent être signalés comme artificiels.
4. **Risque minimal : aucune nouvelle règle.** Tout le reste. La Commission affirme que la grande majorité des systèmes d’IA se trouvent ici.

## Ce qu’exige le « risque élevé »

Un système à haut risque ne peut pas être vendu ni utilisé dans l’UE tant qu’il ne satisfait pas à un ensemble d’exigences. Concrètement, son fournisseur devrait gérer les risques, utiliser des données d’entraînement de bonne qualité pour réduire les résultats discriminatoires, tenir des journaux pour que les résultats puissent être retracés, rédiger une documentation détaillée, donner des renseignements clairs aux utilisateurs, permettre une véritable surveillance humaine et rendre le système robuste, sûr et exact.

La proposition fixe aussi des sanctions. Pour les infractions les plus graves, comme le recours à une pratique interdite, les amendes pourraient atteindre 30 millions d’euros ou 6 % du chiffre d’affaires annuel mondial d’une entreprise, le montant le plus élevé étant retenu. Pour les systèmes qui ne sont pas à haut risque, la proposition encourage des codes de conduite volontaires plutôt que de nouvelles obligations.

## Un exemple concret : classer des outils de tous les jours

Voici où semblent se situer quelques outils familiers, d’après les propres exemples de la Commission et l’annexe de la proposition. Il s’agit d’une lecture d’un projet, et non d’un avis juridique.

| Outil | Niveau probable | Pourquoi |
|---|---|---|
| Un jouet dont l’assistant vocal incite un enfant à faire quelque chose de dangereux | Inacceptable | La Commission le donne comme exemple de manipulation interdite |
| Un logiciel qui trie ou classe les CV de candidats à un emploi | Élevé | Les applications de recrutement et de tri figurent dans l’annexe |
| Une application qui note les examens d’élèves | Élevé | L’évaluation des élèves figure dans l’annexe |
| Un robot conversationnel de service à la clientèle | Limité | Les utilisateurs doivent être avisés qu’ils ont affaire à une machine |
| Le filtre antipourriel d’un site Web | Minimal | Cité par la Commission comme libre d’utilisation |
| Des adversaires contrôlés par l’IA dans un jeu vidéo | Minimal | Aussi cités comme libres d’utilisation |

Remarquez que la même technologie de fond peut se retrouver dans des rangées différentes. Un modèle de texte qui rédige des descriptions de produits présente un risque minimal. Le même modèle, utilisé pour classer des candidats à un emploi, relèverait des règles sur le haut risque. C’est l’usage qui décide, pas l’algorithme.

> **À essayer :** dressez la liste de cinq outils propulsés par l’IA que vous ou votre milieu de travail utilisez, d’une application photo à un filtre de courriels. Pour chacun, demandez-vous : décide-t-il quoi que ce soit sur l’éducation, l’emploi, l’argent ou le statut juridique d’une personne? Parle-t-il à des gens qui pourraient le croire humain? Placez chacun dans l’un des quatre niveaux et notez ceux pour lesquels vous hésitez.

## Que signifient ses niveaux de risque pour les outils de tous les jours?

Pour la plupart des IA que les gens croisent au quotidien, très peu de choses changeraient. Les filtres antipourriel, les fonctions de recommandation, les outils d’amélioration de photos et les personnages de jeux vidéo se trouvent dans le groupe à risque minimal, où la proposition n’ajoute aucune nouvelle obligation. Leurs fabricants pourraient choisir de suivre un code de conduite volontaire, mais n’y seraient pas tenus.

Le changement visible pour les utilisateurs ordinaires viendrait des règles de transparence. Si une entreprise utilise un robot conversationnel sur son site Web, elle devrait indiquer clairement que vous parlez à un logiciel. Si vous voyez une fausse vidéo convaincante d’une personne réelle, la personne qui l’a créée ou utilisée devrait en général déclarer qu’elle est artificielle, avec des exceptions pour des choses comme la satire et les arts, sous réserve de garanties.

Les règles plus lourdes s’appliquent là où l’IA touche des décisions importantes concernant des personnes. Si un employeur utilise un logiciel pour trier des CV, ou si un prêteur utilise l’IA pour juger de la solvabilité, les fournisseurs de ces systèmes seraient soumis aux exigences relatives au haut risque : données documentées, surveillance humaine, journalisation et vérifications de l’exactitude. Pour une personne qui cherche un emploi ou qui demande un prêt, c’est la partie de la proposition qui pourrait compter le plus.

Tout cela dépend du texte final. Attendez-vous à du lobbying, à des amendements et à de longues négociations avant que des règles s’appliquent. Pour l’instant, les quatre niveaux offrent une façon utile de réfléchir à tout outil d’IA que vous utilisez ou que vous concevez : demandez-vous ce qu’il décide, et à propos de qui.

## Sources

- Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), COM(2021) 206 final: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206
- Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence: https://ec.europa.eu/commission/presscorner/detail/en/ip_21_1682