Vous n’imaginerez jamais à quel point ce chatbot de Facebook est capable de vous manipuler….

Pendant que le monde s’enfonce dans la folie, multipliant les inégalités et les conflits, sans penser aux humains qui les subissent, les chercheurs s’emploient à créer des machines qui demain, seraient capables de nous remplacer. Et si elles étaient déjà opérationnelles ? Un « chatbot » peut déjà créer votre site en quelques minutes. Si on s’en remet à des machines, plus besoin de réfléchir et comme ce qui ne sert pas disparaît, le cerveau de moins en moins sollicité va t-il régresser ? Il va falloir résister! SOS Sarah Connors..

Une affiche tirée du film Terminator

Une expérience menée par Facebook sur des intelligences artificielles mènent à des résultats stupéfiants. Ainsi, les robots de la firme américaine, lorsqu’on les laisse dialoguer seuls, ont une étrange tendance à développer un nouveau langage inconnu des humains. Entre autres surprises…

Des machines de plus en plus intelligentes

À l’origine ce n’était pas le but du programme. Dans l’optique d’augmenter ses revenus, Facebook s’est lancée ces dernières années dans la constitution d’une véritable armée de chatbot, ces robots qui imitent l’homme dans des conversations Messenger. Ils seraient déjà des centaines de milliers. Une goutte d’eau dans l’océan des plus d’un milliards d’utilisateurs recensés en 2017. Mais n’oubliez pas que ces intelligences artificielles peuvent mener un nombre de conversations simultanées inimaginables pour une intelligence humaine.

Cantonnés au départ à des tâches simples et standardisées comme les réponses automatiques, ces utilisateurs d’un genre particulier ont fait de grands progrès, dans le sillage des avancées scientifiques dans le domaine de l’intelligence artificielle. On l’a vu récemment avec AlphaGo, première IA à écraser les plus grands champions d’un jeu qu’on disait l’apanage du bon vieux génie humain : le go. Ainsi, sur Facebook comme ailleurs, des bots sans cesse plus performants assurent désormais des tâches spécialisées, autrefois dévolues à des employés qualifiés.

De redoutables négociateurs

Un gisement économique potentiel est justement celui des robots négociateurs : une intelligence artificielle capable de négocier des milliers de deals simultanément, 24 heures sur 24 et 7 jours sur 7. Tremblez donc, agents commerciaux et consommateurs compulsifs, le futur du business est là, et il rapporte gros. Mais avant de remplacer tous ces salariés par des robots, les scientifiques du réseau social doivent relever quelques défis techniques.

La question principale est celle de la vraisemblance : l’enjeu est ici de tromper l’humain en lui faisant croire que le programme informatique avec lequel il interagit (en l’occurrence à des fins commerciales) est un humain. C’est l’objet du fameux « test de Turing« , véritable thermomètre de l’intelligence artificielle. En maximisant ce paramètre, les créations du Facebook Artificial Intelligence Research (FAIR), en charge du projet avec l’aide du Georgia Institute of Technology, se révélaient de piètres négociateurs qui avaient tendance à accepter les compromis trop facilement. Les scientifiques ont donc modifié leurs paramètres afin de leur faire privilégier la « récompense » sur la « vraisemblance ».

Et c’est ici que les choses deviennent vraiment intéressantes. Rappelons ici que les IA utilisées emploient des capacités les plus récentes (et pour certains les plus inquiétantes), dont celle d’apprendre de ces erreurs. Ainsi, les robots ont rapidement développé une tendance à mentir afin d’optimiser leurs deals : ils vont par exemple feindre de l’intérêt pour un item sans valeur, afin de plus tard le « concéder » à leur adversaire dans le marchandage final. Or « la tromperie est une compétence complexe qui se développe relativement tard chez l’enfant », rappelle l’un des chercheurs dans Wired.

L’intelligence artificielle, un danger pour l’humanité?

En outre, dans le protocole de l’expérience, les chercheurs ont été amenés à faire négocier de bout en bout des robots les uns contre les autres. Une déviance non prévue est alors apparue : les bots se sont mis à inventer purement et simplement un langage non humain pour communiquer entre eux. Une compétence pas très utile pour leur usage futur mais qui nous rappelle l’écrasante supériorité de la machine sur l’intellect humain dans de nombreux domaines.

Vers un futur dominé par les machines?

La réflexion sur les risques que fait courir le développement de l’intelligence artificielle à l’humanité ne date pas d’hier. Le père de la science fiction Isaac Asimov l’évoquait déjà dans son magistral Cycle des Robots, dont les idées ont ensuite été popularisés par des films à succès comme Terminator ou Matrix. Mais les progrès exponentiels de nos machines, qui tendent à valider les lois de Moore ont relancé les craintes des scientifiques. Ainsi, Stephen Hawking, dans un entretien sur la BBC en 2015 nous mettait en garde : « le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité. » En effet, « les humains, limités par une lente évolution biologique, ne pourraient pas rivaliser et seraient vite dépassés »…

Source DailyGeekShow

Voir aussi:

Lumière sur les mystérieux Yakuzas, cette mafia profondément ancrée dans la culture nippone.

9 technologies prédites par Jules Verne, écrivain et visionnaire de génie.

Les grottes de Mustang, le mystère archéologique qui fascine les chercheurs du monde entier

Plus…

Des « diamants du sang » de Centrafrique en vente sur les réseaux sociaux.

12 commentaires

  • samedi soir

    authentique connerie cherche intelligence artificielle, plus si affinité.

  • Musashi Musashi

    Se poser trop de questions sur ces sujets rend fou !
    Les sociétés darwiniennes développées évoluent rapidement dans ce sens et aucune loi ou idéologie moralisatrice ne freinera ce mouvement.
    La logique mortifère de la machine n’est que l’image fidèle des sociétés dont les principaux acteurs que sont les hommes, ont perdu tout repère en ce qu’ils sont.
    La machine ne représente pas un danger de remplacement de l’homme mais n’est que la matérialisation de dieux dans le monde de la matière.

    Même le célèbre Dalloz fait des procès d’anticipation : » 2039, un groupe de hackers est jugé pour avoir attaqué les serveurs du ministère de l’Intérieur …  »
    http://www.dalloz-actualite.fr/flash/transhumanisme-en-proces#.WUzEcoV6vcZ

  • samedi soir

    la fabrique du consentement permettra que ce genre de projet voit le jour.

  •  » le cerveau de moins en moins sollicité va t-il régresser ?  »

    Bon sang c’est bien sur ! vous venez de résumer en une phrase toute la logique de Intelligence Artificielle !
    Une intelligence de niveau X peut-elle créer une intelligence de niveau X+1 ?

    Sur une planète fort fort lointaine ils avaient une intelligence de niveau X et ils avaient créé une intelligence artificielle de niveau X-1. Alors que leur économie battait sérieusement de l’aile ils commencèrent à prendre des mesures pour qu’une minorité puisse continuer à vivre dans l’abondance alors que la majorité de la population glissait dans la pauvreté et la misère. Le dernier monarque élu le fut avec une écrasante majorité de voix : 66,67 % . Malheur à ceux qui faisait remarquer que sur les 150 millions d’électeurs 3 seulement votèrent dont 2 en faveur du monarque.

    Pour lutter contre les « sans activité » des contrats 0 heures furent créés offrant ainsi une activité potentielle et donc disparaissaient des stats « sans activité ». Les jeunes n’étaient considérés jeunes qu’à 30 ans, avant cet age ils étaient dans la catégorie des « En passe de devenir jeune ».
    Ne figuraient dans la catégorie des vieux que ceux qui avaient 85 ans. Toutes ces mesures donnaient des stats impeccables en un mot : conformes. Pourtant la situation ne s’arrangeait pas.

    De mesures en mesures de plus en plus stupides et avec le temps, ils étaient devenus … cons. C’est alors qu’ils regardèrent les droïdes comme relativement intelligent et leurs accordèrent tout pouvoir.

    Toc, toc, toc Sarah Connasse ?

    Vouiii c’est moi, entrez. Je vous attendais. Tenez prenez un siège. Piooufff quelle chaleur. Vous avez pas trop chaud ? ah non c’est vrai vous devez être régulé aussi en température. Quand on y pense c’est quand même une belle invention que vous êtes. Par moment j’aimerai être comme vous, robuste, intelligent, puissant. Enfin bon que voulez vous c’est comme ça. Vous prenez un verre ? je n’est pas d’alcool c’est très mauvais pour la santé. Tenez c’est juste du thé avec un peu de menthe et un léger nuage de lait. Allez gouttez c’est excellent et ça ne peut aucunement vous faire de mal.

    Slurp, bzuuut, splach, pchiiiit.

  • Danielle Danielle

    Je comprends les critiques relatives au savoir faire humains mais je viens de tester Heek et je dois reconnaître que c’est très bien fait !

    Il est simple et agréable de créer un site rapidement et gratuitement… (avec évidemment des options payantes) mais pour démarrer un petit blog (si quelqu’un souhaite avant tout se concentrer sur le contenu et non la forme), je ne trouve pas de critique à faire pour le moment.

  • le gentil

    bonjour
    un petit interview de mr bayard sur thinkerview
    https://www.youtube.com/watch?v=VBsLSfPs2PE