# Comment une petite municipalité peut-elle utiliser l’IA de façon responsable?

Date: 2024-09-15 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/petite-municipalite-ia-responsable/

**Answer:** Commencez par des tâches de rédaction à faible risque portant sur de l’information publique, comme des résumés de règlements en langage clair et des premières versions d’avis dans une deuxième langue, avec un employé désigné qui vérifie chaque mot avant la diffusion. Mettez d’abord par écrit des règles simples : outils approuvés, aucun renseignement personnel dans les robots conversationnels publics, utilisation de l’IA divulguée aux citoyens et évaluation des facteurs relatifs à la vie privée avant tout système qui touche les données des citoyens.

Une ville de quelques milliers d’habitants peut avoir une greffière, un trésorier, un responsable des travaux publics et une poignée d’autres personnes qui font tout, des permis à l’ordre du jour du conseil. Ces personnes écrivent sans arrêt : avis, résumés, lettres, procès-verbaux. L’IA générative, ce type d’outil qui produit du texte à partir d’une courte consigne appelée prompt, peut alléger une partie de cette charge. Utilisée sans précaution, elle peut aussi publier une mauvaise date, divulguer des renseignements sur un citoyen ou miner la confiance envers une institution publique.

La bonne nouvelle, c’est qu’une petite municipalité n’a pas à inventer ses propres règles. Le gouvernement fédéral du Canada a publié des directives détaillées pour ses propres employés, les commissaires à la protection de la vie privée ont énoncé des principes pour toute organisation qui utilise ces outils, et au Québec, la Loi 25 précise déjà les obligations des organismes publics. Ensemble, ils offrent un cadre de départ raisonnable.

## Commencer par des usages à faible risque

Le *Guide sur l’utilisation de l’intelligence artificielle générative* du Gouvernement du Canada, mis à jour en juillet 2024, recommande aux institutions d’expérimenter des usages à faible risque avant ceux à risque plus élevé. Parmi ses exemples à faible risque figurent un courriel interne et la révision d’une ébauche qui sera de toute façon relue. Parmi ses exemples à risque plus élevé figurent un robot conversationnel destiné au public et des résumés de renseignements sur des clients.

Pour un hôtel de ville, cet ordre ressemble à ceci :

| Risque plus faible : commencer ici | Risque plus élevé : seulement après planification |
|---|---|
| Résumé en langage clair d’un règlement pour le site Web | Un robot conversationnel qui répond aux questions des citoyens |
| Première version d’un avis dans une deuxième langue | Résumer des plaintes ou des dossiers concernant des citoyens nommés |
| Transformer le procès-verbal du conseil en court article d’infolettre | Tout ce qui alimente une décision concernant une personne (permis, amendes, prestations) |
| Trouver des idées de questions pour une consultation publique | Analyser les données personnelles des citoyens |

## Exemple : un résumé de règlement et un avis bilingue

Un nouveau règlement sur l’arrosage extérieur est adopté. Le texte intégral est public; il peut donc être collé dans un outil approuvé.

```prompt
Voici le texte intégral d’un règlement municipal adopté par notre conseil.
Rédige pour les citoyens un résumé d’au plus 150 mots, d’un niveau de lecture de 2e secondaire.
Inclus : à qui il s’applique, ce qui est permis et à quel moment, la date d’entrée en vigueur et comment poser des questions.
Utilise seulement l’information contenue dans le règlement. S’il manque quelque chose dont les citoyens auraient besoin, énumère-le à part sous le titre « Absent du règlement ».
Ensuite, rédige le même résumé en anglais.

[colle le texte du règlement ici]
```

La ligne « Absent du règlement » compte : elle empêche le modèle de combler les vides avec des inventions plausibles, comme un montant d’amende qui ne figure pas dans le texte. Avant la publication, un membre du personnel compare chaque date, chaque heure et chaque montant avec le règlement, et une personne qui maîtrise la langue révise la traduction. Le guide fédéral prévient que ces outils peuvent donner des résultats inégaux d’une langue à l’autre; une version dans une deuxième langue reste donc une ébauche tant qu’une personne ne l’a pas approuvée.

Ensuite, indiquez-le. Le principe de transparence du guide demande aux institutions de signaler le contenu produit avec l’IA générative. Une ligne comme « Résumé préparé avec l’aide d’un outil d’IA et vérifié par le personnel municipal; le texte du règlement a préséance » est honnête et rassurante.

> **À essayer :** prenez un règlement déjà publié sur le site Web de votre municipalité, demandez à un outil d’IA un résumé en langage clair de 150 mots à l’aide du prompt ci-dessus, et marquez chaque affirmation que vous devriez corriger. Ce décompte est une mesure rapide de la révision qu’exigera chaque résumé.

## Les règles qui rendent l’usage responsable

**Gardez les renseignements personnels hors des outils publics.** Le guide fédéral est direct : les fonctionnaires ne doivent pas entrer de renseignements personnels dans des outils d’IA générative accessibles au public, parce que le fournisseur peut en conserver une copie. Les principes des commissaires à la protection de la vie privée ajoutent qu’il faut utiliser des renseignements dépersonnalisés dans les prompts dans la mesure du possible. Une lettre de plainte, un compte de taxes ou un dossier de permis restent à l’écart de tout robot conversationnel grand public.

**Suivez les principes PRETES.** Le guide fédéral résume l’utilisation responsable en six mots, dont l’acronyme est PRETES : pertinente, responsable, équitable, transparente, éclairée et sécurisée. En pratique : vérifiez les résultats pour déceler les biais, gardez une personne responsable de chaque texte publié, utilisez des outils adaptés à la sensibilité de l’information, divulguez l’utilisation de l’IA, formez le personnel et n’utilisez l’IA que là où elle aide vraiment. Le guide reconnaît franchement que, pour certaines tâches, l’IA n’est tout simplement pas le bon outil.

**Respectez vos obligations découlant de la Loi 25.** La Loi 25 (Loi modernisant des dispositions législatives en matière de protection des renseignements personnels) a modifié la loi québécoise sur l’accès et la protection des renseignements personnels qui s’applique aux organismes publics, et la plupart de ses dispositions sont entrées en vigueur le 22 septembre 2023. Parmi les nouvelles obligations, les organismes publics doivent adopter des règles encadrant leur gestion des renseignements personnels, et doivent réaliser une évaluation des facteurs relatifs à la vie privée (un examen structuré des risques pour la vie privée) pour tout projet d’acquisition, de développement ou de refonte d’un système d’information ou d’une prestation électronique de services qui implique des renseignements personnels. Un robot conversationnel destiné aux citoyens, ou une fonction d’IA ajoutée à votre logiciel de permis, entre directement dans cette catégorie. Parlez à votre responsable de l’accès aux documents et de la protection des renseignements personnels avant de signer quoi que ce soit.

**Mettez-le par écrit.** Une politique d’une page adoptée par le conseil (outils approuvés, données interdites, étapes de révision, formulation de la divulgation) protège le personnel autant que les citoyens.

## Quelles tâches devraient rester entre les mains du personnel?

Tout ce qui tranche une question concernant une personne. Les approbations de permis, les amendes, les ajustements de taxes, l’admissibilité aux programmes et les réponses aux plaintes ont des conséquences juridiques et humaines, et les citoyens s’attendent avec raison à une décision prise par une personne responsable, capable de l’expliquer. L’IA peut aider un membre du personnel à trouver l’article pertinent d’un règlement; elle ne devrait pas produire la décision.

Les conversations délicates restent aussi humaines. Un citoyen en détresse, un différend entre voisins, un appel au sujet d’une urgence : ces situations exigent du jugement, de l’empathie et une connaissance du milieu qu’un modèle n’a pas. Le guide fédéral demande aux fonctionnaires de se faire leur propre opinion avant de demander des recommandations à une IA et d’utiliser ces outils comme des aides plutôt que comme des substituts, ce qui est aussi un bon conseil pour une note d’information destinée au conseil.

Enfin, la dernière vérification avant toute diffusion publique revient au personnel. Un modèle peut rédiger un avis en quelques secondes, mais la personne qui le signe répond de chaque date et de chaque mot. Dans une petite communauté, où les citoyens connaissent par leur nom les gens de l’hôtel de ville, cette responsabilité personnelle fait partie du service.

## Sources

- Guide on the use of generative artificial intelligence: https://www.canada.ca/en/government/system/digital-government/digital-government-innovations/responsible-use-ai/guide-use-generative-ai.html
- Entrée en vigueur des nouvelles dispositions de la Loi 25: https://www.quebec.ca/nouvelles/actualites/details/entree-en-vigueur-des-nouvelles-dispositions-de-la-loi-25-50723
- Principles for responsible, trustworthy and privacy-protective generative AI technologies: https://www.priv.gc.ca/en/privacy-topics/technology/artificial-intelligence/gd_principles_ai/