# Quels nouveaux emplois liés à l’IA voit-on apparaître?

Date: 2023-06-15 · Author: Robert Scales · https://guidetoartificialintelligence.com/fr/apprendre/nouveaux-emplois-en-ia/

**Answer:** À côté des ingénieurs qui construisent les systèmes d’IA, trois types de travail plus récents apparaissent dans les offres d’emploi et les rapports d’entreprises : les ingénieurs de prompts, qui trouvent et documentent les meilleures façons de donner des consignes aux modèles; les entraîneurs d’IA, qui rédigent et classent des exemples qui apprennent aux modèles comment répondre; et les spécialistes de l’IA responsable ou de l’éthique, qui cherchent les préjudices possibles avant la sortie des produits. Ces postes sont encore peu nombreux, et leurs contours changent toujours.

Chaque grand virage technologique crée des emplois qui n’avaient pas de nom auparavant. Les grands modèles de langage, les systèmes derrière ChatGPT et Claude, font de même, et certains des nouveaux titres apparaissent déjà dans de vraies offres d’emploi.

Les rôles ci-dessous valent la peine d’être compris même si vous ne postulez jamais pour l’un d’eux, parce que des morceaux de ces métiers se répandent dans des emplois ordinaires : rédiger de bonnes consignes pour une IA, juger ses réponses et réfléchir à qui pourrait subir un préjudice selon l’usage qu’on en fait.

## Ingénieur de prompts

L’offre d’emploi la plus commentée cette année vient d’Anthropic, l’entreprise de San Francisco qui fabrique l’assistant Claude. En mars, Fortune a fait état de son affichage pour un poste d’« ingénieur de prompts et bibliothécaire », avec une échelle salariale annoncée de 175 000 $ US à 335 000 $ US. Ce chiffre vient d’une seule jeune pousse bien financée et n’est pas représentatif du domaine.

Le travail, tel que l’offre le décrivait, consiste à trouver les meilleures façons de rédiger des prompts pour l’IA de l’entreprise dans toutes sortes de tâches, puis à les documenter sous forme de bibliothèque de prompts et de tutoriels pour que d’autres puissent apprendre. Anthropic reconnaissait que le poste était difficile à pourvoir, puisque l’ingénierie de prompts existait comme domaine depuis moins de deux ans. Au lieu d’exiger un diplôme précis, l’entreprise demandait aux candidats de montrer qu’ils savaient obtenir de Claude un comportement complexe au moyen d’une série de prompts bien conçue.

## Entraîneur d’IA

Les assistants conversationnels ne sont pas seulement entraînés sur des textes d’Internet. Pour qu’ils suivent les consignes, les entreprises embauchent des gens pour leur montrer à quoi ressemblent de bonnes réponses. OpenAI a décrit la méthode au début de 2022 en présentant ses modèles InstructGPT. Des annotateurs humains ont rédigé des exemples de réponses à des prompts, puis classé plusieurs réponses du modèle de la meilleure à la pire. Ces classements ont servi à entraîner un modèle distinct qui prédit ce que les gens préfèrent, et le modèle de langage a ensuite été ajusté pour obtenir de bons scores selon ce modèle. La technique s’appelle l’apprentissage par renforcement à partir de la rétroaction humaine, ou RLHF.

Les personnes qui font ce travail portent des titres comme entraîneur d’IA ou annotateur. Leurs jugements comptent : OpenAI a souligné que le modèle finit par refléter les valeurs des personnes qui ont annoté ses données.

## Éthicien de l’IA et spécialiste de l’IA responsable

Les grandes entreprises ont mis sur pied des équipes chargées de prévoir comment les produits d’IA pourraient causer du tort. Un reportage de The Verge et de Platformer publié en mars décrivait l’équipe éthique et société de Microsoft, qui comptait à son sommet, en 2020, une trentaine de personnes, dont des ingénieurs, des designers et des philosophes. Son rôle était de veiller à ce que les principes d’IA responsable de l’entreprise se reflètent réellement dans la conception des produits. Elle a créé un jeu de rôle appelé Judgment Call pour aider les designers à imaginer les préjudices possibles, et a rédigé une note sur les risques de Bing Image Creator avant le lancement de cet outil.

Le même reportage montre aussi la fragilité de ces emplois : Microsoft a supprimé cette équipe en mars dans le cadre de 10 000 suppressions de postes, tout en conservant un Office of Responsible AI distinct qui rédige des règles et des principes. Quiconque envisage cette voie devrait savoir que ce travail est valorisé en principe, et parfois sacrifié sous la pression de livrer les produits.

## Une journée type, côte à côte

Voici à quoi pourrait ressembler une journée typique dans chacun de ces rôles. Les horaires sont donnés à titre d’illustration, à partir des tâches décrites dans les sources ci-dessus, et non du journal d’une vraie personne.

| Moment | Ingénieur de prompts | Entraîneur d’IA | Spécialiste de l’IA responsable |
|---|---|---|---|
| Matin | Teste cinq façons de demander au modèle de résumer des contrats et évalue chacune selon une liste de contrôle. | Rédige des réponses modèles à une série de prompts d’utilisateurs, en suivant un guide de style. | Examine la conception d’une nouvelle fonction et énumère les façons dont elle pourrait être détournée. |
| Midi | Documente le meilleur prompt dans la bibliothèque commune, avec des exemples et les échecs connus. | Classe quatre réponses du modèle par prompt, de la meilleure à la pire, et note pourquoi. | Anime un atelier où des designers jouent des scénarios de préjudice. |
| Après-midi | Rencontre l’équipe d’un client pour adapter les prompts à ses documents. | Signale au chef d’équipe les prompts pour lesquels les lignes directrices sont floues. | Rédige une courte note sur les risques qui recommande des changements avant le lancement. |

> **À essayer :** choisissez l’une des trois colonnes et faites-en vous-même une version de 30 minutes. Par exemple, posez la même question de quatre façons différentes à un robot conversationnel et classez les réponses de la meilleure à la pire, en écrivant une phrase pour expliquer pourquoi. C’est un petit avant-goût à la fois de l’ingénierie de prompts et de l’entraînement d’IA.

## Que font concrètement les entraîneurs d’IA, les éthiciens et les ingénieurs de prompts?

En bref : les ingénieurs de prompts trouvent comment demander, les entraîneurs d’IA apprennent aux modèles à quoi ressemble une bonne réponse, et les éthiciens se demandent qui pourrait subir un préjudice et comment l’éviter.

Les ingénieurs de prompts passent leur temps à expérimenter avec la formulation, les exemples et la structure, à mesurer quelle version donne des résultats fiables, et à la consigner pour que d’autres puissent la réutiliser. Les compétences en jeu : une écriture claire, de la patience pour les tests et une connaissance suffisante d’un domaine pour juger les résultats.

Les entraîneurs d’IA produisent les jugements humains dont les modèles apprennent. Ils rédigent des réponses de démonstration, comparent les sorties du modèle et suivent des lignes directrices détaillées, souvent en grand volume. Les compétences en jeu : une lecture attentive, de la constance et, pour le travail spécialisé, une expertise dans le domaine.

Les spécialistes de l’éthique et de l’IA responsable font le lien entre les équipes de produit et les personnes touchées par les produits. Ils examinent les conceptions, mènent des exercices pour imaginer les mauvais usages, rédigent des politiques et recommandent des changements avant le lancement. Les compétences en jeu combinent une compréhension technique, des sciences sociales ou de la philosophie, et la capacité de convaincre des équipes qui travaillent sous la pression des échéances.

## Sources

- Someone with a 'hacker spirit' can earn over $300,000 for a new kind of job centered around ChatGPT-like assistants: https://fortune.com/2023/03/09/new-ai-jobs-chatgpt-like-assistants/
- Aligning Language Models to Follow Instructions: https://openai.com/index/instruction-following/
- Microsoft lays off team that taught employees how to make AI tools responsibly: https://www.theverge.com/2023/3/13/23638823/microsoft-ethics-society-team-responsible-ai-layoffs