# Que signifie l’accord sur la législation de l’UE sur l’intelligence artificielle pour les robots conversationnels?

Date: 2023-12-14 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/accord-legislation-ue-ia-robots-conversationnels/

**Answer:** Selon l’accord conclu le 8 décembre, les gens dans l’UE devront être informés quand ils parlent à un robot conversationnel plutôt qu’à une personne, et les contenus générés par l’IA, comme les hypertrucages, devront être signalés. Les entreprises derrière les modèles à usage général qui alimentent les robots conversationnels auront aussi des obligations de transparence, avec des règles plus strictes pour les modèles les plus puissants, une fois le texte officiellement adopté.

Le vendredi 8 décembre, les négociateurs du Parlement européen et du Conseil de l’UE, où siègent les gouvernements des États membres, ont conclu un accord provisoire sur la législation sur l’intelligence artificielle. C’est l’accord politique sur une loi que la Commission européenne avait d’abord proposée en avril 2021. Le texte doit encore être finalisé et adopté officiellement par les deux institutions, donc certains détails peuvent changer. Mais les grandes lignes sont maintenant publiques, et plusieurs d’entre elles s’appliquent directement aux robots conversationnels comme ChatGPT et aux entreprises qui les conçoivent.

La législation conserve l’approche fondée sur le risque de la proposition initiale. Une loi est **fondée sur le risque** quand la sévérité de ses règles dépend de l’ampleur du tort qu’un usage de l’IA pourrait causer. La plupart des outils d’IA, comme les filtres antipourriels ou les systèmes de recommandation, présentent un risque minimal et n’ont aucune nouvelle obligation. Une courte liste d’usages est carrément interdite. Les usages à haut risque, comme l’IA qui fait le tri des candidatures à un emploi ou qui influe sur l’accès à l’éducation, doivent respecter des exigences strictes. Et une catégorie distincte couvre le **risque lié à la transparence**, là où se trouvent la plupart des robots conversationnels.

## Règle 1 : dire aux gens qu’ils parlent à une machine

Le résumé de l’accord publié par la Commission énonce clairement le principe : lorsque des systèmes d’IA comme les robots conversationnels sont utilisés, les gens doivent savoir qu’ils ont affaire à une machine. Cette idée figurait déjà dans la proposition de 2021, qui précisait que les gens doivent être informés quand un système d’IA interagit avec eux, sauf si c’est déjà évident d’après la situation.

En pratique, une entreprise qui place un assistant conversationnel sur son site Web, dans une application ou sur une ligne téléphonique devra indiquer clairement qu’il ne s’agit pas d’un agent humain.

## Règle 2 : signaler les contenus générés par l’IA

L’accord exige aussi que les hypertrucages et les autres contenus générés par l’IA soient signalés comme tels. Les fournisseurs de systèmes qui génèrent du son, des images, de la vidéo ou du texte devront les concevoir de façon que leurs résultats soient marqués dans un format lisible par machine, c’est-à-dire un signal qu’un logiciel peut détecter, et puissent être reconnus comme générés ou manipulés artificiellement. Les gens devront aussi être informés quand des systèmes de reconnaissance des émotions ou de catégorisation biométrique sont utilisés sur eux.

## Règle 3 : des obligations pour les concepteurs de modèles

La partie la plus nouvelle de l’accord concerne l’**IA à usage général**, c’est-à-dire les modèles entraînés pour accomplir un large éventail de tâches plutôt qu’une seule, comme les grands modèles de langage derrière les robots conversationnels. Ces modèles et les systèmes construits sur eux devront respecter des exigences de transparence, présentées dans la dernière section ci-dessous. Pour les modèles les plus puissants, qui pourraient présenter ce que le texte appelle des risques systémiques, il y a des obligations contraignantes supplémentaires.

## Un exemple concret : qui fait quoi

Voici comment l’accord classerait les parties en cause dans un robot conversationnel de tous les jours. Le scénario est illustratif, et le texte final pourrait en ajuster les détails.

| Partie | Exemple | Ce que l’accord lui demande |
|---|---|---|
| Fournisseur du modèle | Une entreprise qui entraîne un grand modèle de langage à usage général | Documentation technique, respect du droit d’auteur de l’UE, résumé détaillé du contenu d’entraînement; davantage si le modèle présente un risque systémique |
| Déployeur | Une banque qui ajoute un robot conversationnel de service à la clientèle construit sur ce modèle | Indiquer clairement aux clients qu’ils clavardent avec une IA |
| Même banque, autre usage | Utiliser l’IA pour évaluer les demandes de prêt | Probablement des obligations à haut risque (la proposition de 2021 classait l’évaluation de la solvabilité comme étant à haut risque), un régime plus strict |
| Outil de contenu | Une application qui génère des voix ou des images réalistes | Marquage lisible par machine des résultats; hypertrucages signalés |

Le tableau montre l’idée clé : la même technologie peut relever de règles différentes selon l’usage qu’on en fait. Un robot conversationnel qui répond à des questions sur les heures d’ouverture a surtout besoin d’un avis clair. Le même modèle utilisé pour décider qui obtient du crédit passe en territoire à haut risque.

Le calendrier compte aussi. Selon la Commission, une fois la loi entrée en vigueur, elle s’appliquerait après deux ans, les interdictions prenant effet après six mois et les règles sur l’IA à usage général après douze. Les amendes pour les manquements les plus graves peuvent atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial d’une entreprise.

> **À essayer :** pensez à trois outils d’IA que vous utilisez ou que votre milieu de travail utilise : un robot conversationnel, un générateur d’images et un outil qui prend des décisions au sujet de personnes. Pour chacun, notez dans quelle catégorie ci-dessus il tomberait probablement et l’obligation principale qui s’appliquerait. Notez ensuite ce que vous voudriez qu’on vous dise en tant qu’utilisateur.

## Que devront divulguer les modèles d’IA à usage général?

Selon le Parlement européen, tous les modèles d’IA à usage général devront respecter trois exigences de transparence. D’abord, leurs concepteurs doivent rédiger une **documentation technique** sur le modèle. La Commission présente ces règles comme un moyen d’apporter de la transparence tout au long de la chaîne de valeur, c’est-à-dire aux entreprises qui construisent leurs propres produits sur un modèle. Ensuite, ils doivent démontrer qu’ils respectent le **droit d’auteur de l’UE**. Enfin, ils doivent publier un **résumé détaillé du contenu utilisé pour l’entraînement**, soit les textes, les images et les autres données à partir desquels le modèle a appris.

Ce troisième point est le plus visible pour le public. Un résumé obligatoire donnerait aux écrivains, aux artistes et aux chercheurs une meilleure idée de ce qui est entré dans ces modèles, même si le niveau de détail exact dépendra du texte final et des lignes directrices qui suivront.

Les modèles qui répondent aux critères d’**impact élevé**, ceux qu’on considère comme porteurs d’un risque systémique, en ont davantage à faire : évaluations du modèle, évaluation et réduction de ces risques, tests contradictoires (essayer délibérément de faire mal se comporter le modèle), signalement des incidents graves à la Commission, cybersécurité et rapports sur l’efficacité énergétique. Tant que des normes officielles de l’UE n’existent pas, ces entreprises pourront s’appuyer sur des codes de bonnes pratiques pour démontrer leur conformité, et un nouveau Bureau de l’IA au sein de la Commission surveillera les règles sur l’IA à usage général. Pour les utilisateurs de robots conversationnels, le résultat devrait être plus d’information sur les systèmes avec lesquels vous parlez, et des signaux plus clairs quand ce que vous voyez ou entendez a été produit par une machine.

## Sources

- Artificial Intelligence Act: deal on comprehensive rules for trustworthy AI: https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artificial-intelligence-act-deal-on-comprehensive-rules-for-trustworthy-ai
- Commission welcomes political agreement on Artificial Intelligence Act: https://ec.europa.eu/commission/presscorner/detail/en/ip_23_6473
- Proposal for a Regulation laying down harmonised rules on artificial intelligence (Artificial Intelligence Act), COM(2021) 206 final: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:52021PC0206