Deep fake: la notion de vérité est-elle vouée à disparaître

Comment faire la différence entre le vrai et le faux ? Imaginez ce que l’on pourra faire dire à un individu, pour le discréditer et saper son influence. On pourra truquer des images pour lui imputer une action qu’il n’aura jamais faite. On pourra voir des scènes horribles qui n’ont jamais existé, pour justifier une intervention guerrière. Avec cette technologie, on ne pourra plus faire confiance. Photoshop fait déjà des “miracles”, avec ce genre de logiciel, ce sera un cauchemar pour ceux qui seront dans le collimateur des tireurs de ficelles. On arrête pas le progrès dit-on, à ce point, ça devient un outil de manipulation de masse et, c’est la vérité qui est en danger. Partagez ! Volti

******

Source Observateur-Continental

Des spécialistes américains de la sécurité de l’information ont introduit une nouvelle notion de “deep fake”, ou “fake profond”. Ce terme est apparu pour la première fois en 2017 pour désigner des photos, l’audio, des vidéos et d’autres contrefaçons réalistes créées à l’aide des technologies d’intelligence artificielle (IA). L’usage de fakes profonds pourrait devenir un défi pour la sécurité nationale dans le monde contemporain, ainsi qu’engendrer la méfiance à l’égard de toute information. 

Les technologies IA pour la création de fakes profonds continuent de se développer. Leur création se déroule sous la forme d’apprentissage machine. Dans les réseaux adverses génératifs (GAN pour generative adversarial networks) deux systèmes d’apprentissage machine apprennent en concourant entre eux. Le premier réseau ou générateur s’occupe de créer de fausses données telles que des photos, des enregistrements vidéo ou audio qui reprennent les propriétés d’un ensemble de données de référence. Le second réseau ou discriminateur cherche à découvrir des données contrefaites. A l’issue de chaque session le générateur du réseau modifie ses réglages pour créer des données de plus en plus réalistes. La compétition de machine se poursuit sur le réseau des milliers, voire des millions de sessions, tant que le générateur n’améliorera pas les caractéristiques des données à tel point que le discriminateur ne pourra plus distinguer les données réelles des fausses. 

A quoi peuvent servir les fakes profonds? Les manipulations dans les médias sont un phénomène qui ne date pas d’hier, mais l’usage de l’IA pour créer des fakes profonds est un passage au niveau supérieur, et les fakes profonds deviennent de plus en plus réalistes. Ils sont créés rapidement et deviennent de plus en plus abordables. Même des opérateurs non qualifiés peuvent télécharger des logiciels et créer un faux contenu de plus en plus convainquant en utilisant des données en accès libre. 

La technologie de fakes profonds a déjà été utilisée pour se divertir. Par exemple, des internautes inséraient l’image générée de l’acteur Nicolas Cage dans des films où il n’avait pas joué. Ou encore a été créée une exposition interactive qui incluait des images de tableaux du peintre Salvador Dali qu’il n’avait jamais peints. 

Des technologies de fakes profonds ont été utilisées à des fins médicales. De fausses images médicales générées ont été utilisées pour créer un algorithme autodidacte de dépistage de maladies rares. 

Bien évidemment, des fakes profonds peuvent servir dans la guerre de l’information, notamment en présentant sur des vidéos falsifiées des représentants publics ou d’autres personnalités qui font des commentaires déplacés ou se comportent d’une manière indigne. Des fakes générés par l’IA sont susceptibles de saper la confiance publique, d’impacter négativement le discours social et même de déterminer l’issue d’un vote. 

Des fakes profonds peuvent servir pour faire chanter des responsables ou des personnes ayant un accès aux informations confidentielles. Ils peuvent servir à créer un contenu d’incitation, par exemple, lorsque de fausses vidéos montreront des crimes de guerre qui n’ont pas été commis, des attentats non commis, ainsi que des reportages incitant à la radicalisation de la population, au recrutement de terroristes ou même à une mutinerie et à la violence. 

De plus, les fakes profonds créeront une situation où le contenu véridique sera nié en affirmant que c’est un fake profond. Avec le développement des technologies des fakes profonds la notion de véracité et de vérité pourrait disparaître complètement. 

Les fakes profonds nécessitent des moyens spéciaux pour leur détection. Cependant, la technologie sophistiquée progresse rapidement vers un point où les fakes profonds seront très difficile, voire impossible à identifier. A l’heure actuelle, la Defense Advanced Research Projects Agency (DAPRA) travaille sur deux programmes destinés à l’identification de fakes – Media Forensics (MediFor) et Semantic Forensics (SemaFor). 

MediFor et SemaFor sont considérés comme des moyens d’amélioration de la protection contre les opérations de l’information d’un ennemi éventuel. Il est évident que cette partie du programme restera confidentielle. 

En même temps, les experts de la sécurité de l’information pensent que la guerre de l’information mutera dans la compétition de l’autoapprentissage des algorithmes de protection et des algorithmes d’attaque avec la création de fakes profonds. Les générateurs de fakes profonds seront rapidement mis à jour pour pallier les défauts qui permettent de les détecter par des moyens d’identification. 

Il est prévu d’utiliser les technologies de protection contre les fakes profonds sur les réseaux sociaux. Ce qui pose la question de responsabilité des acteurs des réseaux sociaux pour la diffusion de fakes profonds. C’est pourquoi les plateformes des réseaux sociaux nécessiteront probablement un élargissement des moyens de marquage et d’authentification du contenu qui y est diffusé. Cela pourrait inclure l’exigence des utilisateurs des réseaux d’indiquer l’heure et le lieu de la création ou de la rédaction de leur contenu. 

La prolifération de fakes profonds pourrait finalement apporter une charge excessive sur les plateformes médias sociales ou conduire à une restriction non constitutionnelle de la liberté d’expression. Certains experts affirment qu’il faut se concentrer sur la nécessité d’informer le public au sujet des fakes profonds. Mais la boucle serait alors bouclée. Car cette mesure provoquerait une baisse de la confiance sociale envers toute forme d’information en général. 

Bienvenue donc dans un véritable monde de post-vérité.

Alexandre Lemoine

Les opinions exprimées par les analystes ne peuvent être considérées comme émanant des éditeurs du portail. Elles n’engagent que la responsabilité des auteurs

Observateur-Continental

Volti

4 Commentaires

  1. Plus que jamais l’expression, “je ne crois que ce que je vois” n’a plus aucun sens.

    • Dans ma relation avec le petit monde des humains je ne me fie quasiment plus à mes cinq sens. Je fais plutôt appel à mes intuitions que je passe ensuite au filtre du bon sens avant de m’en servir 🙂 …

      M.G.

  2. Vérité ! Éternel sujet des discordes du monde ! cherchée par les uns, cachée par les autres, aimée passionnément, ou persécutée follement, mais revendiquée toujours par ceux qui ont voulu régner sur la terre, alors qu’aucun d’eux ne la possédait. Et si vous demandez pourquoi elle a ce prestige, on vous dira que c’est parce que tout au fond de l’histoire se trouva un temps où la VÉRITÉ était la base même du pouvoir. Celui qui SAVAIT enseignait et cela lui conférait une puissance sociale, une autorité. C’était l’Âge d’Or, l’époque bienheureuse où régnait le Droit naturel, « Jus Naturale ». Cela dura pendant une longue période de temps, toute la première jeunesse de l’humanité, et c’est pour cela que l’atavisme rend à l’enfance actuelle, quand elle n’est pas pervertie par le milieu social, la spontanéité du vrai instinctif. Le mensonge n’a été introduit dans le monde qu’avec l’usurpation et pour la justifier.
    Les Templiers, Chevaliers de la Vérité
    On n’admettait, dans l’Ordre du Temple, que des hommes d’élite d’une réputation intacte, d’une probité sûre, ceux que leur fidélité, leur zèle, leur fermeté, mettaient au-dessus du vulgaire, ceux, enfin, qui, dégagés de tous préjugés, de toute crainte, s’élevaient au-dessus des erreurs du temps, au-dessus de l’opinion des masses, au-dessus de la fausse science des empiriques qui attendent tout des sens.
    Ils étaient spiritualistes dans le sens le plus élevé et le plus vrai du mot, c’est-à-dire qu’ils attendaient tout de la pensée abstraite, qui seule peut atteindre à la connaissance des vrais principes et percer le voile sombre qui dérobe aux hommes les secrets de la Nature.
    Les Templiers avaient une Divinité féminine représentant l’ancienne Déesse porte lumière, la Vénus-Lucifer. Ils enseignaient que c’est Lucifer, « l’Esprit », qui est l’organisateur de l’Univers, le Grand Architecte qui met toutes choses à leur place et crée l’ordre.
    Le retour à la Femme est toujours un retour à la Sagesse ; mais il excite toujours la rage envieuse des hommes pervertis, qui veulent faire régner le mal.
    L’éternelle Sagesse, la Raison universelle, la lumière de l’Esprit est en même temps la loi du cœur ; elle rend l’amour sacré, elle en fait un culte en l’épurant. C’est dans ce culte seulement que l’homme trouve la Vérité absolue, qui est le souffle divin de l’Esprit féminin, qui le purifie quand il en reçoit l’effluve.
    Sans cette Sagesse, tout est chancelant. Elle élève l’homme et le rend digne d’adresser son hommage à la Divinité.
    Depuis, le monde s’est divisé entre Conservateurs et Progressistes.
    L’affaire des Progressistes est de continuer à commettre des erreurs. L’affaire des Conservateurs est d’éviter que les erreurs ne soient corrigées.
    Il est devenu urgent de revenir à la Nature.
    Intro : https://livresdefemmeslivresdeverites.blogspot.com/2017/07/introduction-livres-de-femmes.html
    Les Templiers : https://livresdefemmeslivresdeverites.blogspot.com/2017/07/lestempliers.html

  3. Tres intéressant le deefake car les possibilités de tromper sont considérables, voir sans limite
    https://www.youtube.com/watch?v=gLoI9hAX9dw
    On peut même changer les acteurs des anciens films

    Il n’y aura plus besoin non plus de vrais présentateurs ou acteurs, on pourra les remplacer par des images de synthèse
    Il faut savoir que les 5 sens peuvent être trompés
    Le discernement s’apprend, et dans l’astral c’est vital

    La tromperie est sur les apparence, le sons, les odeurs, les discours, sensation
    Quelle erreur de dire: je ne crois que ce que je voishttps://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_cool.gif

Les commentaires sont clos.