Les hypertrucages en tant que forme de harcèlement

Écrit par Sameer Hinduja et Justin W. Patchin

14 septembre 2023

Deux personnes travaillant ensemble sur un ordinateur de bureau dans un bureau lumineux.

Qu’est-ce qu’un hypertrucage?

Les hypertrucages semblent être apparus lorsque des communautés d’utilisateurs en ligne ont commencé à partager entre elles du faux contenu pornographique de célébrités. Les hypertrucages sont générés à l’aide de logiciels d’intelligence artificielle capables de produire du contenu d’apparence hautement réaliste, comme des photos ou des vidéos, destiné à être perçu comme authentique. Les modèles d’apprentissage sont créés en utilisant la puissance de calcul pour analyser des quantités importantes de contenu, comme plusieurs heures de vidéo ou des milliers de photos d’une personne, en accordant une attention particulière aux principales caractéristiques du visage et au langage ou à la position du corps.

Ensuite, les connaissances acquises sont appliquées de manière algorithmique aux images ou aux cadres que l’on pourrait vouloir manipuler ou créer (par exemple, en superposant les mouvements des lèvres au contenu original [et en doublant le son] pour donner l’impression qu’une personne dit quelque chose qu’elle n’a en fait jamais dit). D’autres techniques, telles que l’ajout d’artefacts (comme des « anomalies » discrètes qui semblent naturelles ou involontaires) ou l’utilisation de masques ou de retouches pour améliorer le degré de réalisme sont également employées. Étonnamment, le résultat est très convaincant. Si vous effectuez une recherche sur le Web pour trouver des exemples d’hypertrucages, vous serez probablement étonné(e) par leur réalisme. Voici quelques points importants à connaître pour éviter que votre enfant soit victime d’hypertrucage et lui donner les moyens de distinguer la réalité de la fiction.

Une personne qui parle devant un écran vert pendant qu’une équipe filme à l’aide d’une caméra et d’un micro perche.

Repérer les hypertrucages

Les hypertrucages deviennent de plus en plus réalistes à mesure que la technologie progresse, mais leur détection nécessite souvent de rechercher attentivement certains éléments dans le contenu de la photo ou de la vidéo (p. ex., des yeux qui ne semblent pas cligner naturellement). Il peut être très utile d’agrandir l’image et de rechercher des contours flous ou peu réalistes autour de la bouche, du cou, du col ou de la poitrine. C’est souvent à ces endroits que l’on constate un décalage ou une incohérence entre le contenu d’origine et le contenu superposé.

Dans le cas de vidéos, il est possible de ralentir l’extrait vidéo et de rechercher des incohérences visuelles, telles que des problèmes de synchronisation labiale ou des mouvements saccadés. En outre, prêtez une attention particulière aux moments où le sujet ne manifeste aucune émotion alors que son discours devrait en susciter, où il semble mal prononcer un mot, ou à tout autre détail étrange. Enfin, la recherche d’images inversées sur des photos (ou une capture d’écran d’une vidéo) peut vous orienter vers la vidéo originale avant qu’elle ne soit retouchée. À ce stade, comparez soigneusement les deux contenus pour déterminer lequel a été modifié. L’essentiel est de faire confiance à ses sens; quand on prend le temps de regarder et d’écouter attentivement du contenu, on est généralement en mesure de détecter quand quelque chose cloche.

Gros plan d’une personne portant un rouge à lèvres vif et se couvrant partiellement le visage avec son bras.

Il est important de rappeler aux jeunes que tout ce qu’ils publient en ligne peut être utilisé pour créer un hypertrucage. Sur leurs comptes de médias sociaux, ils ont probablement publié une panoplie de contenus que d’autres personnes peuvent consulter et modifier sans leur consentement. Leur visage, leurs mouvements, leur voix et d’autres caractéristiques peuvent être pris, puis superposés à l’image de quelqu’un d’autre ayant un comportement susceptible de nuire gravement à sa réputation. Pour faciliter le dialogue avec votre jeune, voici quelques questions que vous pouvez lui poser avec empathie et sans porter de jugement :

Est-il possible que tu aies accepté des personnes qui pourraient éventuellement être en conflit ou en compétition avec toi?
As-tu déjà été blessé(e) par quelqu’un que tu n’aurais jamais cru capable de te faire du mal? Penses-tu que cela pourrait se reproduire?
Lorsque tu reçois une nouvelle demande d’abonnement ou d’ajout à la liste d’amis, vérifies-tu le profil de la personne pour t’assurer qu’elle est bien réelle? Peux-tu lui faire confiance?
Les publications de tes amis ont-elles déjà été utilisées par quelqu’un d’autre sans leur autorisation? Penses-tu que cela pourrait t’arriver?

Les hypertrucages peuvent nuire au bien-être des jeunes si l’on considère les dommages émotionnels, psychologiques et à la réputation qu’ils entraînent. Alors que les incohérences auditives, visuelles et temporelles peuvent échapper à l’œil humain, des logiciels s’affinent pour identifier et signaler toute incohérence dans le contenu d’une image ou d’une vidéo. À mesure que ces technologies deviennent de plus en plus sophistiquées, les parents, tuteurs et autres adultes responsables des jeunes doivent les sensibiliser à la problématique des hypertrucages et travailler à limiter les risques associés à leur création et diffusion. De plus, rappelez régulièrement à votre jeune que vous êtes toujours là pour l’aider à se sortir d’une situation d’hypertrucage (et, bien sûr, de tout autre préjudice subi en ligne).

FONCTIONNALITÉS ET OUTILS

Établir une limite quotidienne de temps

Outils de supervision sur Instagram

Prendre une pause

Établir des limites de temps

RESSOURCES CONNEXES

Écran d’interface utilisateur des paramètres de contenu affichant les classifications 13 ans et plus.

Paramètres de contenu 13 ans et plus sur Instagram pour les jeunes