Face à l’appât du gain, deux intelligences artificielles de Google se révèlent “très agressives”…

Effrayant et inquiétant, ces robots qui prennent des décisions. Face à leur intérêt ou au notre, que choisiront-ils ? Ils ont, les mêmes réactions que les humains, « moi d’abord ». Toujours plus loin dans la programmation pointue, si c’est de la programmation.

Le meilleur moyen de savoir si le développement des intelligences artificielles progresse est de les mettre en pratique. Pour cela, la filiale de Google Deepmind a récemment intégré des IA dans des jeux virtuels afin de savoir quel serait leur comportement face à une situation donnée. Entre collaboration et affrontement, cette étude passionnante nous montre de manière primitive que les intelligences artificielles ne reculent devant rien pour arriver à leurs fins.

…/…

D’après les équipes de Deepmind, l’objectif de cette étude est de savoir si, face à l’appât du gain, les intelligences artificielles privilégieraient la collaboration ou l’affrontement. Si les jeux vidéo ressemblent à des versions grossières de Pacman, les résultats nous permettent de tirer quelques conclusions.

…/…

En fonction de leur environnement, les IA ont soit privilégié l’agressivité et l’égoïsme, soit la collaboration pour un plus grand succès personnel. Si Google n’a pas encore publié son étude, les premiers résultats révèlent qu’élaborer des intelligences artificielles ne signifie pas qu’elles estimeraient nos propres intérêts comme priorité absolue.

Lire l’article complet

Source DailyGeek

11 commentaires

  • clegiru

    Il faut relire Isaac Asimov dans la partie de son œuvre qui est centrée sur les robots.
    Sans programmer des lois morales essentielles, une IA ne fait que reproduire dans tous ses excès, les défauts et travers de ses concepteurs ! C’est le cas décrit dans cet article.

    • supermouton supermouton

      Les lois humaines, avant les 4 de la robotique d’Asimov, devraient elles aussi réfréner ce que nous connaissons parfaitement de la nature humaine…
      Cependant, a force de lobby, de corruption, de népotisme, elles ne sont maintenant plus que l’amplification de tout ce qui fait de l’etre humain un prédateur peureux et vaniteux.
      Tant pis, c’est perdu, on retentera le coup dans la tentative de société suivante.. Celle-ci est cuite :-)
      Si on ne s’est pas pris un méteore sur la gueule d’ici là…

  • Pignoufou

    A.I., I Robot,… ces films nous faisaient un petit rappel au début des trois lois d’Asimov mais c’est vrai qu’on en parle plus beaucoup.

    Faut aussi différencier les jeux à somme nulle et les jeux dits gagnant-gagnant.
    https://www.youtube.com/watch?v=StRqGx9ri2I
    A 11min, la stratégie gagnante face à un récalcitrant pour un jeu à somme positive. Ça fait penser à une stratégie d’amour inconditionnel et de pardon immédiat.

    Maintenant est-ce une question d’être gentil ou méchant ; ou est-ce une question de gagner dans le cas d’une coopération avec un idiot?
    http://haute-performance.over-blog.com/article-33657012.html

  • blackh

    Une nouveauté ?? Les humains font ça au moins « aussi bien » depuis longtemps !!!

    Les robots n’en sont qu’une pale copie, comme dirait l’autre. Ce ne sont pas eux qui sont inquiétants.

  • Il y a des humains qui ont encore un système émotionnel. Les émotions nous font faire bien des âneries, mais aussi de fort belles choses. Et parfois, on part sur un « mauvais » chemin, puis on s’aperçoit de la déviance et on revient à de meilleurs sentiments.

    Je ne pense pas qu’une IA puisse le faire. Sans aucune émotion, elle ira jusqu’au bout. Et même si, dans le meilleur des cas, elle va dans le positif, ce positif, amené dans l’excès, peut aussi causer des problèmes.

    Bref, ces IA seront-elles capables de discernement ?

    Mais c’est là discuter pour ne rien dire en fait, car malheureusement, je ne fais pas de bile quant à l’utilisation de ces IA …

  • C’est marrant anthropomorphisme.

    Cela consisterait à s’étonner qu’une machine ne prenne pas en compte les sentiments ou la conscience.
    Primo , il faudrait que les concepteurs l’envisage et ainsi brisent un tabou.
    Secundo, il faudrait que la machine voit un intérêt pragmatique à dépenser de la puissance de calcul et du temps pour parvenir à un résultat.

    En tout cas , si un jour machine de ce type il y a , la théorie de l’évolution de Darwin s’appliquerait sans doute les plus performantes IA seront sélectionnées, celles sans émotions car pragmatique.

    Chez l’animal grégaire que nous sommes, ceux qui nous sont supérieurs, nos alphas, l’aboutissement actuel du darwinisme: Les psychopathes.

    Et comme les machines seront à l’image de l’homme pour un certain temps encore…

    Ce qui m’inquiète surtout c’est pourquoi toute cette story telling autour de Sentiments, Conscience et disque dur?
    Ceux qui ont le pouvoir de décision l’abandonneraient ils à une machine ?
    http://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_bye.gif

    • Naao

      Les alphas, ne dirigent pas l’humanité à ce jour. Ce sont les plus « omega untermeschen consanguins » qui sont à la tête de nos sociétés occidentales. Dans une meute de loup, si l’alpha se comporte comme un connard, la meute le vire, en choisi un autre et il fini loup solitaire ou en charpie. Les sociétés amérindiennes par exemple ont ce type de fonctionnement. Le chef est sur un siège éjectable. Dans les sociétés occidentales, le siège de chef, est un siège bébé avec ceinture de sécurité, air-bag, et super-glue au fion, plus t’es une merde plus tu reste, et plus t’es protégé par un tas de sous-merdes.
      Ce qu’il faut bien comprendre c’est que les IA, ont un fonctionnement « mécanique », elles suivent un programme, n’ont pas de libre arbitre. Ceci dit elles peuvent être programmées pour se reprogrammer, et de ce fait changer les règles qui régissent leur fonctionnement. Les algorithmes sont une séries d’instruction type « si ça…. alors ça » ou « tant que ça est vrai fais ça ». Si la fonction « racine » du programme est « survis à n’importe quel prix », le programme payera n’importe quel prix pour « survivre ». Si l’homme passe dans la catégorie « danger de mort »….

  • lansquenet

    LES MULTIETHNIQUES LIBIDINEUX SERONT DES ESCLAVES RSAistes:

    Trump exige de Foxconn (Taïwan) de rapatrier des usines de montage d’électronique (Iphone, PC…) aux US,
    mais avec des robots IA (moins chers que les migrants surpondeurs !)

    FOXCONN VA UTILISER UN MILLION DE ROBOTS IA avant 3 ans

    BOOBALAND VA LUI IMPORTER 10 MILLIONS DE BOUBOUS ET BARBUS…
    (plus chers et qui se reproduisent pour plus chers, sans compter les kalachs)

    https://www.reuters.com/article/us-foxconn-robots/foxconn-plans-to-use-1-million-robots-in-3-years-idUSTRE77016B20110801

    • Naao

      Toutafé !! et ça fait un moment !
      Faut pas croire que Terminator c’est de la science fiction. En 2017 Terminator c’est déjà de l’histoire.
      Entre les chat-bots qui sont de plus en plus capables de discuter comme des humains, les robots « sexuels », les IA militaires types armes autonomes et les ordinateurs quantiques, on ne se rend pas compte à quel point tout ça est beaucoup plus avancé que ce que l’on pense.
      Jetez un oeil aux discussions entre Sophia et Han: https://www.youtube.com/watch?v=w1NxcRNW_Qk (en anglais)
      Sophia a d’ailleurs depuis, acquis le statut de citoyen. Et une nouvelle religion avec une IA pour dieu a été officielement enregistrée aux US.

  • .article35. .article35.

    « cette étude passionnante nous montre de manière primitive que les intelligences artificielles ne reculent devant rien pour arriver à leurs fins. »
    Cool les IA ont de l’avenir en politique . Notre prochain président sera donc un logiciel ….si ce n’est pas déjà le cas….

Laisser un commentaire