La lutte contre les deepfakes, comment pouvons-nous les combattre

La lutte contre les deepfakes, comment pouvons-nous les combattre

Au milieu de l'ère numérique, les préoccupations concernant les fausses nouvelles occupent de plus en plus l'attention des organisations publiques, des médias et des personnalités de toutes sortes. Pas pour rien, les Fake News ont eu un certain poids dans d'importants processus électoraux tels que les élections présidentielles aux États-Unis en 2016, le référendum sur la sortie du Royaume-Uni de l'Union européenne ou les généraux du Brésil qui ont donné la victoire à Bolsonaro.

Sans avoir à aller aussi loin, dans notre pays Facebook a récemment dû fermer trois grands réseaux d'extrême droite qui, à travers 30 pages, groupes et comptes en double, ont accumulé plus d' un million et demi d'abonnés et plus de 7 millions d'interactions . Ces groupes se consacraient à la diffusion de canulars et de fausses images.

Mais maintenant, nous sommes confrontés à un autre type de menace numérique qui génère de nouveaux maux de tête. Nous parlons du soi-disant Deepfake, un terme qui découle de la combinaison de «Deep Learning»  et «Fake». Fondamentalement, il s'agit d' une forme d'intelligence artificielle  qui permet à tout utilisateur de modifier de fausses vidéos et audios de personnes qui semblent réelles. Pour cela,  des réseaux génératifs antagonistes (AGR) sont utilisés , une sorte d'algorithme qui peut créer de nouveaux types de données à partir d'autres ensembles qui existent déjà.

En fin de compte, les "deepfakes" sont une autre forme de manipulation numérique , et l'une des plus susceptibles d'être utilisées pour le "trolling" dans le meilleur des cas. Mais comment les détecter? Et, surtout, que font les institutions et les entreprises privées pour éviter ses conséquences désastreuses? Dans cette spéciale, nous allons passer en revue les efforts qui sont menés pour arrêter ce nouveau fléau numérique.

Pourquoi les deepfakes sont-ils si dangereux?

La technologie «deepfake» permet de substituer facilement le visage d'une personne à celui d'une autre, comme s'il s'agissait d'une sorte de masque ou de masque numérique, pour nous faire croire  qu'il a dit certaines choses qui n'ont jamais vraiment eu lieu . Comme vous pouvez le deviner, ces techniques ont une série d'implications assez importantes pour déterminer la légitimité des informations circulant sur Internet.

Bien qu'ils soient souvent utilisés pour créer des vidéos humoristiques, la vérité est que les "deepfakes" ont un sombre potentiel pour détruire l'image publique d'une personne ou pour influencer l'opinion publique par le biais de la désinformation. Malheureusement, nous devons vous dire que cette utilisation abusive est plus répandue que nous ne le souhaiterions, et avec un énorme succès, nous devrions ajouter.

Un exemple clair est dans l'application DeepNude, qui vous a permis de télécharger l'image d'une personne avec des vêtements et d'en créer  une nouvelle de la même personne nue . Heureusement, il est déjà fermé, mais il faut souligner la facilité d'utilisation de ce type d'outils pour lesquels aucune connaissance de l'édition n'est requise puisque l'algorithme lui-même fait tout le travail.

deepnude

Dans le cas de DeepNude, la plateforme offrait des résultats incroyablement réalistes et était entièrement accessible via son site Web pour Windows et Linux . Et comme prévu, les montages avec des célébrités telles que Katy Perry ou Gal Gadot n'ont pas tardé à apparaître sur le réseau, au point que la pression des avocats de ces actrices ne s'est arrêtée que lorsque d'importants sites de contenu pour adultes ont supprimé les vidéos. .

Ce n'est que la pointe de l'iceberg de la capacité de traitement que ces types d'applications peuvent avoir. Imaginez maintenant les conséquences d'une campagne de ce type dirigée contre une certaine personnalité politique afin de manipuler un processus électoral dans un pays ou une région. Le mal ne connaît pas de limites.

deepfake

Comment les deepfakes sont-ils combattus?

L'une des premières entreprises à s'exprimer n'était autre que Google, qui a annoncé sa ferme volonté de lutter contre les deepfakes et, comme on dit dans ces cas, le feu éteint le feu. Le géant de la technologie a confirmé le lancement d'une base de données complète de jusqu'à 3000 vidéos manipulées avec l'intelligence artificielle (deepfakes) qui ont été créées spécifiquement pour aider à affiner les outils de détection des chercheurs.

Pour ce faire, Google a embauché de vrais acteurs pour enregistrer leurs visages et les utiliser comme point de référence pour déterminer si une vidéo a été artificiellement modifiée. En utilisant des méthodes de génération deepfake accessibles à tous, des milliers de deepfakes sont créés à partir de ces enregistrements.

Les vidéos résultantes, réelles et fausses, sont téléchargées sur la plate-forme de développement collaboratif GitHub afin que les chercheurs comprennent pleinement ce que produit le système. Cette base de données, comme nous le disons, est entièrement accessible, bien qu'ils devront d'abord vous donner la permission .

De son côté, Facebook prévoit également de créer une base de données similaire d'ici la fin de cette année. Selon son directeur général, Mark Zuckerberg, le principal problème est que  l'industrie ne dispose pas d'un système standardisé pour les détecter . C'est pourquoi il s'est associé à l'Association of AI, Microsoft et des universitaires de Cornell Tech, du MIT, d'Oxford, de l'UC Berkeley, de l'Université du Maryland, de College Park et de l'Université d'Albany-SUNY pour créer le Deepfake Detection Challenge. (DFDC pour son acronyme en anglais).

Ce macro-projet comprendra une base de données étendue et une classification détaillée , ainsi qu'une aide financière et des dons pour encourager le plus de collaborateurs possible. L'idée est de créer une sorte de communauté qui permet de détecter et d'éviter les vidéos manipulées via une IA.

Il ne fait aucun doute que la prolifération des «deepfakes» est devenue un problème très grave, avec des conséquences graves qui ne peuvent être ignorées. Si les mesures proposées par les principaux acteurs engagés pour cette cause peuvent paraître impraticables, voire contre-productives, à long terme, elles peuvent être le seul moyen d'éradiquer ce crime. Bien que cela puisse sembler contre-intuitif, combattre les "deepfakes" avec plus de "deepfakes" aidera les outils de détection à absorber plus de données pour les aider à localiser plus facilement ces types de montages .