Comment faire une vidéo avec Sora 2 de façon responsable?

Sora 2 est le plus récent modèle d’OpenAI pour générer de la vidéo avec son. Lancé le 30 septembre, il produit de courts clips avec dialogues et effets sonores, suit des consignes qui s’étendent sur plusieurs plans et rend les mouvements physiques mieux que les modèles vidéo précédents. La plupart des gens y accèdent par la nouvelle application Sora pour iPhone, accessible sur invitation et déployée d’abord aux États-Unis et au Canada.

Le réalisme est le but recherché, et c’est aussi le risque. Un clip crédible d’une personne réelle qui dit quelque chose qu’elle n’a jamais dit peut lui nuire. Faire une vidéo de façon responsable comporte donc deux volets : soigner le clip, et respecter trois choses qu’OpenAI a intégrées au produit, soit le consentement pour l’apparence, les étiquettes de provenance et les règles sur le contenu.

Les règles dans lesquelles vous travaillez

Le billet d’OpenAI sur la sécurité au lancement présente les principales protections :

• Provenance. Chaque vidéo Sora porte un filigrane visible et des métadonnées C2PA intégrées, une norme de l’industrie qui consigne la provenance d’un fichier. OpenAI conserve aussi des outils internes qui permettent de retracer une vidéo jusqu’à Sora.
• Apparence avec consentement. Les personnes réelles apparaissent par les caméos (cameos), une fonction qui permet à une personne de s’enregistrer une fois, puis de décider qui peut utiliser son apparence. Les personnalités publiques sont bloquées, à moins d’avoir elles-mêmes créé un caméo.
• Filtres de contenu. Les prompts et les clips terminés sont vérifiés, y compris plusieurs images et la transcription de l’audio, pour bloquer des contenus comme le matériel sexuel ou la promotion de l’automutilation. La musique qui copie le style d’artistes vivants, ou qui reproduit des chansons existantes, est aussi bloquée.
• Votre contrôle sur le partage. Une vidéo n’arrive dans le fil public que si vous choisissez de la publier, et vous pouvez la retirer plus tard.

Enlever le filigrane ou supprimer les métadonnées va à l’encontre du but de ces signaux. Laissez-les en place et, quand vous republiez un clip ailleurs, dites clairement qu’il a été généré par l’IA.

Un exemple concret : un clip de 10 secondes pour un club de jardinage

Supposons que vous animez un jardin communautaire et que vous voulez un court clip ludique pour annoncer la journée des plantations du printemps. Aucune personne réelle n’a besoin d’y apparaître, ce qui simplifie la question du consentement.

Deux plans, environ 10 secondes au total, lumière vive du matin, caméra à l’épaule tout en douceur.

Plan 1 : gros plan sur un ver de terre de style dessin animé, coiffé d’un minuscule chapeau de paille,
qui sort de la terre noire entre des rangs de semis. Chants d’oiseaux, brise légère.

Plan 2 : vue d’ensemble d’un petit jardin communautaire avec des bacs surélevés en bois et une
affiche peinte à la main où on lit « Journée des plantations ». Le ver de terre salue de la main.
Mélodie sifflée joyeuse, sans paroles.

Aucune personne, aucun nom de marque ni logo.

Suivez ensuite ces étapes :

1. Générez le brouillon et regardez-le en entier, avec le son. Repérez le texte d’affiche illisible, les mouvements étranges et tout ce que vous ne voudriez pas voir associé au nom de votre groupe.
2. Révisez une chose à la fois, par exemple « rends le texte de l’affiche plus grand et plus net », plutôt que de réécrire tout le prompt.
3. Décidez si le clip doit même être public. Créer un clip ne le publie pas; il n’arrive dans le fil de Sora que si vous choisissez de le publier.
4. Étiquetez-le quand vous le partagez hors de l’application : « Fait avec Sora, un outil vidéo d’IA. »

Le prompt fait volontairement plusieurs choses responsables : il décrit un personnage inventé plutôt qu’une personne, demande une musique originale plutôt qu’une chanson célèbre et exclut les logos qui appartiennent à quelqu’un d’autre.

Les vérifications avant de partager

Une courte liste de contrôle couvre la plupart des problèmes. Une personne pourrait-elle prendre ce clip pour de vraies images d’un événement réel? Montre-t-il quelqu’un qui n’a pas accepté d’y apparaître? Emprunte-t-il les personnages, la musique ou la marque de quelqu’un d’autre? Seriez-vous à l’aise que la personne ou le groupe montré le voie? Si une seule réponse vous inquiète, ne le partagez pas.

TechCrunch note que les recommandations de l’application Sora peuvent s’appuyer sur votre activité, sur un emplacement approximatif déduit de votre adresse IP et sur votre historique ChatGPT, que vous pouvez désactiver. Revoyez ces paramètres quand vous configurez l’application.

Comment fonctionnent les caméos et le consentement?

Pour créer un caméo, vous faites dans l’application un court enregistrement unique de votre visage et de votre voix. Cet enregistrement vérifie que vous êtes bien la personne que vous dites être et capte votre apparence. À partir de là, vous décidez qui peut vous mettre dans ses vidéos, et vous pouvez retirer cette permission en tout temps.

Vous avez aussi un droit de regard. Toute vidéo qui comprend votre caméo, même un brouillon que quelqu’un d’autre n’a pas publié, vous est visible. Vous pouvez la supprimer, et la signaler au besoin. OpenAI applique des vérifications de sécurité supplémentaires à chaque vidéo qui utilise un caméo, et vous pouvez définir des préférences sur le comportement de votre caméo; l’exemple d’OpenAI elle-même est de demander qu’il porte toujours un fédora. Les adolescents ont par défaut des permissions de caméo plus strictes.

Les bonnes pratiques vont au-delà des paramètres. Avant d’utiliser le caméo d’un ami, parlez-lui de l’idée précise, pas seulement en général. Montrez-lui le résultat avant de le publier, et retirez-le rapidement s’il change d’avis. Pour toute personne qui n’a pas de caméo, la réponse est simple : n’essayez pas de la recréer.