Qu'est-ce que Deepfake? Comment l'échange de visage est utilisé dans le porno vengeance

À une époque où vous ne pouvez pas sembler passer 10 minutes en ligne sans avoir entendu parler de «fausses nouvelles», il peut sembler que la conversation sur la désinformation et la propagande malveillante ne puisse devenir plus confuse. Oh, mais ça pouvez.

Bienvenue dans le monde de technologie deepfake, où un algorithme simple peut créer un contenu factice qui semble incroyablement réel. En fait, de fausses images et vidéos sont créées pour créer du porno réaliste, de la vengeance politique et diffuser d'autres informations. Même les experts peuvent avoir du mal à dire ce qui se passe au fond de la réalité.

Néanmoins, cela vaut la peine de savoir ce qu’ils sont, alors plongez au cœur de la technologie de deepfake et de ses implications pour le porno, la politique et bien plus encore.

Deepfake Vidéos 101

Le mot "deepfake" est composé des termes "apprentissage en profondeur" et "faux". Selon Forbes, l’apprentissage en profondeur est "un sous-ensemble de l’apprentissage automatique où des réseaux de neurones artificiels, des algorithmes inspirés par le cerveau humain, tirent des enseignements d’une grande quantité de données". De cette technologie, nous obtenons des images et des vidéos profondes, qui sont fabriquées et non authentiques, mais qui ont une apparence et un son vraiment réels.

Les algorithmes Deepfake ont commencé à proliférer en ligne à la fin de 2017 et les images sont assez courantes sur les médias sociaux à ce stade. Deepfake est populaire pour les fabricants de mèmes basés sur des images, en particulier ceux dans lesquels des célébrités sont échangées face à face avec une autre personne, souvent aussi une célébrité (l'acteur Nicolas Cage est une cible populaire de ces hijinks).

Mais les très bonnes vidéos deepfake ne sont pas largement utilisées, de sorte que la plupart des gens n'en ont peut-être pas encore vu. Cependant, beaucoup de gens ont découvert la technologie vidéo deepfake plus tôt cette année lorsque BuzzFeed a créé un message d'intérêt public vidéo mettant en vedette l'acteur et réalisateur Jordan Peele. Dans le PSA, qui traitait des pièges de la technologie avancée de l'IA (et de deepfakes en particulier), les images et l'audio de Peele ont été utilisés pour créer une vidéo très convaincante de deepfake, mettant en vedette l'ancien président Barack Obama.

La réalisation d'une vidéo

Martin Lindstrom, l'auteur de Petites données: les indices minuscules qui révèlent d'énormes tendances, raconte Séduire par e-mail, «Deepfake est une analyse extrêmement détaillée de plusieurs photos ou enregistrements vidéo mettant en scène la personne que vous souhaitez imiter.» Plus le nombre d'images impliquées dans la fabrication du deepfake est important, plus il sera réel. le produit est complet.

Les algorithmes Deepfake analysent les images pour ce que Lindstrom appelle des «nuances mimiques», à savoir tous les mouvements et expressions d'une personne. La recréation précise des micro-expressions d’une personne, en plus d’autres mouvements caractéristiques du visage et du corps, est ce qui donne un effet de réalisme profond aux sablés.

"Une fois que toutes les images ont été analysées, Lindstrom a déclaré:" Le système les cartographiera et les transformera en un outil facile à utiliser. "Cet outil permet aux utilisateurs de taper simplement un message voulant que la personne présentée dans la vidéo dise à Lindstrom. Associé à une intelligence artificielle capable de «cloner» des voix humaines ou d'imiter d'une autre manière la voix d'une autre personne, les résultats de la technologie vidéo deepfake peuvent sembler extrêmement réalistes. Imitation vocale L’IA peut utiliser un enregistrement de la voix d’une personne pour créer d’autres mots et expressions qui sonnent comme si elle parlait.

Qui est derrière l'écran

Lindstrom affirme que les principales personnalités jouant avec la technologie deepfake sont «tous les suspects habituels», y compris Google, Facebook et Amazon. Chacune de ces sociétés a beaucoup à gagner si elle parvient à monétiser la technologie deepfake. Lindstrom affirme par exemple que Google utilise deepfake pour «comprendre l'avenir de la recherche et de la réponse; Facebook étudie actuellement comment la technologie deepfake peut aider l'entreprise à comprendre le contenu faux de manière plus générale. et Amazon pourrait personnaliser les "expériences Alexa personnalisées" à l'aide de Deepfake Tech. "Les vidéos Deepfake elles-mêmes pourraient être une source de profit pour Google sous la forme de vidéos YouTube mettant en vedette des célébrités décédées.