Le deepfake journalistique est un signe terrifiant des choses à venir

Terrifiant ? On ne sait pas où on va mais on y va… Partagez ! Volti

******

Source Anguille-sous-Roche

C’est presque impossible à dire, mais l’homme qui figure sur cette photo n’existe pas. Il s’agit d’un imposteur, un personnage créé par un algorithme informatique.

Cependant, les articles que ce « journaliste » a publiés dans plusieurs journaux populaires sont très réels, et sont un signe des choses que l’on peut attendre d’une IA en évolution rapide.

Oliver Taylor a d’abord attiré l’attention de l’agence de presse internationale Reuters après avoir été alerté à son sujet par le Londonien Mazen Masri à propos d’un article que Taylor avait écrit sur lui et sa femme, la militante des droits des Palestiniens Ryvka Barnard, dans lequel ils étaient décrits comme des « sympathisants terroristes connus ». Le couple a été déconcerté par cette allégation, d’autant plus qu’elle émanait d’un étudiant universitaire. Mais plus Masri regardait la photo de profil de Taylor, plus il était convaincu que quelque chose n’allait pas chez lui…

Mazen Masri a contacté Reuters au sujet du mystérieux Oliver Taylor, et l’agence de presse a lancé une enquête qui a donné des résultats assez intéressants. L’université de Birmingham, dont il était censé être étudiant, n’a aucune trace de sa fréquentation, sa présence en ligne est assez douteuse, sa seule empreinte étant un compte Quora qui n’a été actif que pendant deux jours en mars, et sa seule photo de profil disponible semble être un deepfake généré par l’IA.

« La distorsion et les incohérences de l’arrière-plan sont le signe d’une image de synthèse, tout comme quelques problèmes autour de son cou et de son col », a déclaré à Reuters Hany Farid, pionnier de la criminalistique des images numériques. L’artiste Mario Klingemann, qui utilise régulièrement des images truquées dans son travail, a également reconnu que la photo de Taylor avait « toutes les caractéristiques » d’une image truquée.

L’enquête de Reuters n’a pas permis de découvrir qui est vraiment cet Oliver Taylor, et Dan Brahmy, dont la société Cyabra est spécialisée dans la détection des faux papiers, a confirmé que les personnes qui essaient de trouver l’origine de telles photos « se retrouvent à chercher une aiguille dans une botte de foin – sauf que l’aiguille n’existe pas ».

Mais ce n’est pas parce qu’Oliver Taylor ne semble pas exister en tant que personne réelle qu’il ne peut pas faire de sérieux dégâts en tant que personnage en ligne. Il a fait publier des articles dans des organes de presse bien connus comme le Jerusalem Post ou le Times of Israel, bien qu’il n’ait jamais rencontré personne en personne dans ces journaux.

Les rédacteurs du Jerusalem Post et d’Algemeiner ont déclaré à Reuters qu’ils avaient publié ses articles après qu’il leur ait présenté des histoires par e-mail. Il n’a pas demandé à être payé pour son travail et ils n’ont pris aucune mesure pour vérifier son identité. « Nous ne sommes pas une opération de contre-espionnage », a déclaré un rédacteur en chef…

Photo: Cyabra/Reuters

Bien que les articles d’Oliver Taylor n’aient pas eu le plus grand engagement, ils n’en sont pas moins très dangereux car ils peuvent répandre des désinformations derrière un masque réaliste qui devient de plus en plus difficile à repérer comme faux.

Malheureusement, Oliver Taylor n’est pas un cas isolé. La semaine dernière, le Daily Beast a dénoncé tout un réseau de faux journalistes qui font de la propagande en ligne. Donc si vous pensiez que « ne croyez pas tout ce que vous lisez sur internet » était vrai avant, c’est sur le point de le devenir encore plus.

Lire aussi : Des deepfakes à la surveillance de masse, voici les 11 dangers liés à l’utilisation de l’intelligence artificielle, Selon Devathon

Source : Oddity Central – Traduit par Anguille sous roche

Voir aussi :

Les commentaires publiés sont signés du nom des auteurs et engagent leur seule responsabilité sans que « lesmoutonsenrages » ne prennent en rien à leur compte leur orientation.

8 commentaires

  • Avatar Jean Xana

    On est confronté tous les jours à de la désinformation maligne, aussi bien dan sles médias que sur Internet.
    Il est tellement facile de se créer une identité « crédible » pour répandre ensuite sa petite propagande.
    En ce moment on voit sur plusieurs sites des « témoignages » de soi-disant Iraniens acharnés à démolir tout ce que fait la République Iranienne. Ils sévissent sur des réseaux francophones, soi-disant pour nous informer, mais apparemment surtout pour salir la réputation de l’Iran.
    Ces gens prétendent généralement être des Iraniens ou Iraniennes, « réchappés des prisons et des tortures du régime sanglant des mollahs ». Cependant tous s’expriment en un français parfait. Tous possèdent sur l’Iran de connaissances encyclopédiques extrêmement bien documentées (bien que forcément toujours partiales).
    Leur style, la façon qu’ils ont de présenter le régime qu’ils détestent, sont parfaitement identiques. Au point que ces « Iraniens et Iraniennes » sont parfaitement interchangeables.
    Ma conclusion ? Pour moi ces gens sont des clones. Des identités truquées. Certainement pas des Iraniens humains, mais plutôt des personnages fictifs, nés dans les ordinateurs d’une organisation de propagande anti-iranienne. Vue la perfection du truquage, je pencherais plutôt pour de la propagande israélienne, car le couple anglo-américain n’est généralement pas très pointilleux. Mais ceci n’est que mon propre avis.

  • Avatar CryptoKrom

     » Cependant, les articles que ce « journaliste » a publiés dans plusieurs journaux populaires sont très réels, et sont un signe des choses que l’on peut attendre d’une IA en évolution rapide  »

    – IA de dictature, MKULTRA, Trolls etc… oui oui, tout a fait sa !
    – Dictature Numérique, Sanitaire, Génétique….TOUT va devenir Dictature.
    – facile, pour une Masse a 88% deja au cerveau lavé.

    https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_good.gif

    • ConscienceU12 ConscienceU12

      « …généré par l’IA »; …je suis très physionomiste (un de mes rares talent, à peu près le seul à vrai dire https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_rose.gif dans le domaine mental) et je peux vous dire que j’ai l’impression d’avoir déjà vu la tête de ce gars (tel quelle) …donc pas de fabrication de son image à partir de pièces rapportées pour moi; …je crois être capable de le voir tout de suite si c’était le cas. – faut arrêter de donner à l’IA une capacité qu’elle est loin d’avoir, à savoir que derrière ce terme d’IA il y a des centaines de petites mains qui algorithme le bordel ! https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_negative.gif

      • Avatar Jean Xana

        L’image n’est pas le principal, mais ca le devient vu le nombre croissant d’illettrés.

        On a TOUS l’impression de connaître déjà cette tête-là !
        Ce n’est pas de l’intelligence artificielle, ce sont simplement les éléments les plus fréquents dans les systèmes de reconnaissance faciales assemblé pour que chacun de nous croient connaître ce type, et lui accordent un peu plus de confiance…
        Ce n’est qu’un moyen à peine plus sophistiqué que la voix du publicitaire pour vous recommander d’acheter la marchandise qu’il vante…
        Il n’y a pas de quoi crier « venez voir » pour des portraits de synthèse.

        Par contre le but de l’article est (si j’ai bien compris) de nous mettre en garde contre la propagande utilisant des gens fictifs, qui nous semblent plus proches, et donc plus convaincants – Alors que cette propagande continue d’être fabriquée par des gens qui ne nous veulent absolument aucun bien.

      • Avatar Simsi

        NOrmal qu’il te parle, c’est un mix entre le très mauvais acteur Frédéric Dieffental et le joueur de tennis français dont le nom m’échappe.

  • Avatar behappy

    Il y a pleins de faux profils fait par IA qui reprennent des profils existant en modifiant la photo par IA aussi
    Cela permet de propager des propagandes venant souvent de pays étrangers d’ailleurs ^^
    En particulier au moment des élections dans un pays
    Tout le monde sait cela depuis Trump
    Et alors ?
    Qui a besoin de l’avis des autres pour se faire sa propre opinion ? https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_whistle3.gif
    Je trouve cela amusant !