Deux IA ont communiqué dans une langue indéchiffrable par l’homme

Concrètement, il y a de quoi avoir peur… L’humain a créé de nouvelles versions de Frankenstein, plus virtuelles, mais qui commencent à communiquer entre elles sans que nous soyons en mesure de comprendre la nature des échanges, en utilisant une « langue inconnue » créée par elles. Effrayant? Oui, si l’on considère qu’il s’agit là d’un pas de plus vers la version de Skynet qui a pu en faire trembler certains avec la série des films Terminator…

skynet

Google Brain, le programme de recherche en intelligence artificielle du géant Google, vient de franchir un palier étonnant et quelque peu inquiétant. En effet, deux ordinateurs sont parvenus à communiquer entre eux dans une langue qu’ils avaient eux-mêmes créée, une langue indéchiffrable par l’homme.

Dans le cadre de la recherche sur le Deep Learning, à savoir la manière dont des ordinateurs peuvent évoluer de façon autonome grâce à des algorithmes, le programme de recherche en intelligence artificielle du géant Google baptisé Google Brain a franchi un grand cap.

En effet, les chercheurs sont parvenus à faire communiquer deux IA nommées Alice et Bob entre elles, alors que de son côté, une troisième IA du nom d’Eve avait pour but d’intercepter leurs communications.

Alors qu’ils n’avaient mis aucun algorithme spécifique en place, les chercheurs ont constaté que ces deux ordinateurs ont sécurisé leurs communications par le biais d’un chiffrement qu’ils avaient eux-mêmes développé. Si la troisième IA est parvenue à intercepter certaines communications, la majorité d’entre elles sont restées indéchiffrables. Ce n’est là qu’un début, mais cela donne une idée du futur des intelligences artificielles qui pourront ainsi être capables de communiquer dans un langage unique que nous ou d’autres ordinateurs ne pourrons peut-être pas déchiffrer.

Source et fin sur Sciencepost.fr

 

8 commentaires

  • engel

    …et moi qui croyais que cela était réservé aux « hommes » politiques.http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_cool.gif

    • lumpenproletariat

      C’est clair !!!
      Par ailleurs, il n’y a plus qu’eux qui s’écoutent entre eux…
      C’est des mecs assez à part, si on y réfléchis bien, mais ils nous coutent un bras.
      Faudrait leur trouver une ile pour qu’ils s’éclatent entre eux, on leur foutrait quelques pupitres avec des micros, des rubans à couper, des mannequins en plastique de vieux pour faire genre de public, des flashs comme y a en boite de nuit pour simuler les photographes, quelques feux rouges et boites à lettres à inaugurer, on pourrait même leur fournir quelques lèches culs.
      Qu’est ce qu’on aurait la paix…

  • ConscienceU12 ConscienceU12

    Plutôt inquiétant effectivement ! http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_wacko.gif …Ah l’homme est sa connerie de progrès ! http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_negative.gif …quand je pense que les gens l’accepte si facilement qu’ils le promeuvent eux même au point de s’auto-moutonner comme des cons ! http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_unsure.gif

  • mirzabad mirzabad

    ça fait peur, en effet….http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_sad.gif

  • xc

    Puisque cet échange était incompréhensible, qu’est-ce qui permet de supposer qu’il n’était pas du grand n’importe-quoi ? Quiconque n’a pas lui-même écrit un programme bugué ne peut pas comprendre qu’il n’y a aucune logique dans ce que peut donner un tel programme.

    • Rik22

      En effet, peut-être que le programme de communication est la simple capacité à renvoyer du bruit numérique aléatoire en cas de réception de bruit numérique aléatoire.
      Avant qu’un robot puisse deviner ce que j’exprime réellement quand j’éternue.

  • Rik22

    Les trois lois de la robotique proposées par Asimov :
    1) un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
    2) un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
    3) un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.
    Il avait même imaginé un robot devant empêcher deux hommes de s’entre-tuer mais ni parvenant pas sans enfreindre les 3 lois. Il faisait donc une dépression et était psychanalysé … par un autre robot.
    Ci-dessous, Asimov communiquant sur son oeuvre (en particulier la deuxième partie) :
    http://www.ina.fr/video/I09318385/isaac-asimov-video.html
    http://www.ina.fr/video/I09318387
    http://www.ina.fr/video/I09318388/isaac-asimov-3-video.html
    A connaître aussi, une subtile nouvelle de Pierre Boulle : un Parfait robot, sur la capacité des robots à communiquer

    • Prune

      C’est à la fin du cycle des Fondations, les robots inventent une nouvelle loi et elle s’appelle la Loi Zéro:

      R. Daneel Olivaw et R. Giskard Reventlov, arrivent à la conclusion que les Trois Lois sont incomplètes et que les robots doivent aussi considérer la protection de l’humanité dans son ensemble.

      Ces robots formulent la Loi Zéro de la robotique ainsi :
      Loi Zéro
      Un robot ne peut nuire à l’humanité ni, restant passif, permettre que l’humanité souffre d’un mal.

      http://robots.over-blog.com/article-2144005.html