Nick Bostrom : « Le but ultime de l’intelligence artificielle doit être la disparition du travail »…

On a beau s’en inquiéter, nous n’allons pas y échapper. Le cyborg arrive…

C’est une des thématiques chères à notre blog. Aussi voici un excellent article sur le possible futur des intelligences artificielles, l’informatique, la robotisation, les technologies nanos, et leurs impacts sur notre société. C’est tout l’enjeu du débat, savoir si nous subirons cette évolution technologique ou si nous en tirerons partie. De vous à moi, vu comment c’est parti, je pense que nous allons droit vers une belle dystopie à la William Gibson, et depuis un bout de temps. Lisez Neuromancien et ses autres livres pour vous en convaincre.

Le point positif là-dedans ? C’est qu’en anticipant les choses nous pouvons avoir un impact sur elles. Aussi, il ne tient qu’à vous que cela change, et que vous ne soyez pas transformé en cyborg pour vous accoupler avec des ordinateurs 8h par jour au boulot… L’avenir peut être fantastique, tout dépend de vous, de nous… Et surtout pas des multinationales… Un ordinateur c’est bête et méchant, ça fait ce qu’on lui dit… et ça n’a pas d’état d’âme. Enfin pour l’instant… ; ) Notez toutefois l’exception des algorithmes de High Frequency Trading, qui ont de doux noms, et des profils bien spécifiques, dont certains ont toutes les caractéristiques du psychopathe…Amicalement Folamour

Nick Bostrom photographié à Paris le lundi 19 juin 2017, lors de la conférence USI. – USI Events

+ VIDÉO. Philosophe et professeur à Oxford, Nick Bostrom est l’auteur de « Superintelligence », un essai alertant sur les risques d’une intelligence artificielle supérieure à l’homme. Dans un entretien aux « Échos », il estime cependant que les bénéfices de l’IA seront probablement supérieurs aux dangers.

Le mois dernier, un sondage mené auprès d’experts de l’intelligence artificielle affirmait qu’il faudrait au moins quarante-cinq ans pour que les ­machines puissent accomplir toutes les tâches aussi bien que les humains. Qu’avez-vous pensé de cette étude ?

Ce que l’on constate, c’est qu’il n’y a pas de consensus : certains chercheurs pensent que cela arrivera dans dix ans, d’autres que cela prendra plusieurs centaines d’années, ou que cela n’arrivera jamais. Il y a une distribution assez large des opinions, même chez les experts. Je pense que le véritable enseignement, c’est que personne ne sait vraiment quand l’intelligence artificielle dépassera celle des humains. Donc nous devons accepter cette incertitude.
A titre personnel, pensez-vous que la route sera encore longue ?

Je pense que nous n’en savons rien. Donc, nous devons considérer ce sujet à la fois sur un temps court et sur un temps long.
Qu’est-ce qui vous a poussé à vous pencher sur les questions ­éthiques posées par l’IA ?

Je crois que le problème est à la fois éthique et technique : si, un jour, vous réussissez à mettre au point un système bien plus intelligent que l’homme, comment garantir que, d’un point de vue technique, il fera réellement ce qu’il est censé faire ? Pendant longtemps, ce sujet a été négligé. Dès les premiers temps de l’intelligence artificielle, dans les années 1950, le but n’a pas seulement été de faire accomplir aux machines des tâches très précises, mais de reproduire la forme d’intelligence générale qui caractérise l’esprit humain. Pourtant, il y a eu étonnamment peu de réflexion sur ce qui se passerait si nous y parvenions vraiment.

Nick Bostrom à la conférence USI (Paris) le 19 juin 2017

Est-ce parce que les chercheurs estimaient qu’ils ne réussiraient jamais ?

On peut croire que les chercheurs pensaient que le but ne serait pas atteint, ou pas avant des centaines d’années. En réalité, les pionniers de l’IA étaient très optimistes, ils pensaient que cela ne prendrait qu’une dizaine d’années. Mais, malgré cela, ils ne s’exprimaient pas sur les conséquences…

En plus d’un demi-siècle d’existence, l’intelligence artificielle a connu plusieurs « hivers », ces périodes où les recherches se sont quasiment arrêtées parce que les espoirs du départ étaient déçus. Pensez-vous que le domaine est durablement sorti de l’hiver ?

Aujourd’hui, c’est plutôt le printemps ou l’été. Est-ce que cela sera suivi d’un nouvel hiver ? J’en doute, parce que les technologies actuelles d’IA sont suffisamment bonnes pour avoir déjà un nombre important d’applications. Je pense que le secteur continuera à attirer des investissements conséquents à cause des besoins pour les moteurs de recherche, la reconnaissance de la parole ou les voitures autonomes. Il y a beaucoup de cas où soit les applications commerciales existent déjà, soit elles existeront dans très peu de temps.

En septembre dernier, Google, ­Amazon, Facebook, IBM et Microsoft ont créé une organisation, ­Partnership on AI, dont le but est de s’assurer que les progrès de l’IA seront bénéfiques à l’humanité. ­L’institut que vous dirigez a rejoint ce partenariat au mois de mai. ­Pourquoi avoir attendu autant ?

A l’origine, il s’agit d’une initiative de ces grands groupes, qui se sont d’abord organisés pour travailler ensemble sur ces sujets. Ce n’est que dans un second temps qu’ils se sont ouverts à d’autres organisations. Mais nous discutons de ces sujets avec certains d’entre eux depuis plus longtemps.

Pensez-vous qu’un partenariat des entreprises qui investissent le plus dans l’IA soit un moyen ­approprié de garantir une utilisation éthique ?

Je pense que c’est une étape positive que l’industrie réfléchisse à ces sujets. Bien sûr, ce ne doit pas être le seul forum où l’humanité discute des implications de l’intelligence artificielle – les universités, les instituts, les gouvernements, les ONG doivent aussi s’en emparer.

Vos craintes sur la menace qu’une superintelligence ferait peser sur l’humanité ont été reprises par de nombreuses personnalités, dont Stephen Hawking. Vous considérez-vous comme un lanceur d’alerte ?

Non. En fait, je suis plutôt optimiste sur les bénéfices à attendre de l’intelligence artificielle. C’est vrai que beaucoup de pages de mon livre sont consacrées à ce qui pourrait tourner mal, mais c’est parce que nous avons besoin de comprendre de façon précise où se trouvent les dangers, afin de pouvoir les éviter. A moyen terme, les aspects positifs sont très nettement supérieurs. Et, à long terme, les deux scénarios, positifs ou négatifs, sont possibles.

A moyen terme, il y a cependant la crainte que les machines assurent de plus en plus de tâches jusqu’ici réservées aux humains, et que cela détruise de l’emploi. Est-ce un thème qui vous intéresse également ?

Je pense que le but ultime doit être la disparition totale du travail. Ce que nous voulons faire, c’est remplacer le besoin pour les humains de travailler, pas seulement grâce à l’intelligence artificielle mais grâce à l’automatisation dans son ensemble – si nous avons inventé la charrue, c’est pour arrêter de nous briser le dos.

Mais, aujourd’hui, l’IA est vue comme l’automatisation du cerveau, ce qui peut sembler effrayant pour des cols blancs. Personne ne veut avoir à se briser le dos pour vivre, mais un journaliste ou un philosophe n’ont pas forcément envie que des machines fassent le travail à leur place…

Je crois qu’il y a deux aspects. Si les machines peuvent se substituer au travail humain partout dans le monde, comment obtiendrons-nous un revenu ? Il y a un certain nombre de réponses à cette question : vous pouvez taxer les machines, vous pouvez y investir du capital qui croîtra rapidement durant la transition et générera une rente, vous pouvez recevoir des aides de l’État…

Le deuxième aspect concerne l’estime de soi. La dignité humaine est intimement liée au fait de subvenir à ses besoins, de gagner son pain. Je pense que c’est quelque chose qu’il faudra repenser dans ce monde futur où nous n’aurons plus besoin de travailler pour vivre. Je pense qu’il faudra repenser l’éducation, qui est conçue pour fabriquer des engrenages productifs de la machine économique. Peut-être que, dans le futur, il faudra former les gens à faire un usage de leurs loisirs qui ait un sens, à maîtriser l’art de la conversation, à avoir des hobbys qui rendent leur vie plus agréable.

C’est un sujet auquel il faut ­commencer à réfléchir dès ­maintenant, à un moment où les machines ­commencent à devenir plus ­intelligentes et plus productives…

Oui, mais nous n’y sommes pas encore. Je ne suis pas convaincu qu’actuellement ces technologies d’intelligence artificielle aient un grand impact sur le marché du travail, je pense que tout cela est encore une possibilité dans le futur. Il faut être attentif à la différence entre la capacité des machines à effectuer certaines tâches et leur capacité à occuper certains emplois. Si vous prenez l’exemple de la voiture autonome, imaginez un véhicule qui conduirait tout seul dans 99 % des cas : il aura toujours besoin d’un chauffeur. Maintenant, imaginez un modèle autonome dans 100 % des cas. La différence peut sembler minime, mais l’impact sur le marché du travail est énorme : soit vous avez besoin d’un chauffeur humain, soit vous n’en avez plus besoin. Et il faudra plus de temps qu’on ne le pense pour arriver au point où les machines font l’ensemble des tâches et bouleversent vraiment le marché du travail.

Il y a vingt ans, vous avez cofondé la World Transhumanist Association. Depuis, le mouvement transhumaniste est devenu très médiatisé et très ­controversé. Vous considérez-vous toujours comme un transhumaniste ?

Je n’ai pas tendance à me définir comme transhumaniste, car ce terme est utilisé par des gens très différents dans des acceptions très différentes, ce qui crée de la confusion. Ce que je pense, c’est que, dans le futur, la technologie ne servira plus seulement à transformer le monde extérieur, mais qu’elle offrira des possibilités de transformer la nature humaine en étendant nos capacités humaines. Si nous imaginons ce que seront les humains dans un million d’années, il serait très bizarre pour moi que nous soyons encore ces bipèdes enfermés dans des petites voitures, avec un cerveau de 1,5 kilo pas très différent de celui du singe !

Bio Express :

Né en 1973, Nick Bostrom a suivi des études de physique et de neurosciences avant d’être diplômé de la London School of Economics.

En 1998, il a fondé avec le philosophe David Pearce la World Transhumanist Association, une ONG favorable à un usage éthique des nouvelles technologies pour améliorer l’espèce humaine. Il a depuis pris ses distances avec le mouvement transhumaniste.

Professeur à la faculté de philosophie d’Oxford, il y a fondé en 2005 le Future of Humanity Institute.

Son essai « Superintelligence : Paths, Dangers, Strategies » (Oxford University Press, 2014) a connu un retentissement mondial.

Il a notamment inspiré une lettre ouverte sur les enjeux éthiques de l’IA signée par 8000 personnalités, dont Stephen Hawking et Elon Musk, rendue publique en janvier 2015.

Le 19 juin dernier, Nick Bostrom était l’invité de la conférence USI (Unexpected Sources of Inspiration) à Paris.

Source(s) : Les Echos.fr relayé par Crashdebug
Voir:

L’armée américaine a implanté avec succès un « modem cortical » chez des animaux dans le cadre d’un projet de soldats cyborg

Elon Musk travaille sur un implant cérébral

Bank of America ouvre 3 agences sans employés

Google s’est payé un ordinateur quantique (qui fonctionne)

En complément, je vous invite à lire cet article de National-Géographic

14 commentaires

  • JBL1960 JBL1960

    Voilà, comme tu le dis en préambule, n’attendons pas d’entendre le bruit de la grille totalitaire se refermer sur nos tronches, parce qu’il sera un peu tard… C’est exactement l’objet de mon billet du jour, en appui de John W. Whitehead source InformationClearingHouse traduction R71 L’ère de la fin de la vie privée : L’état policier passe la surmultipliée ► https://jbl1960blog.wordpress.com/2017/07/02/nattendons-pas-dentendre-le-bruit-de-la-grille-se-fermer-sur-nos-tronches/
    R71 le précise bien en préambule, sur leur blog : Nouvel Ordre Mondial : État policier en surmultipliée… La fin programmée de la vie privée – Et surtout ne faites pas l’erreur classique de balayer cette info du revers de la main en pensant : « Bah ! C’est chez les yankees, rien à voir avec nous… » Si vous croyez vivre en « démocratie » aujourd’hui, si vous avez cru vivre en « démocratie » hier, et penser que rien ne changera demain, vous êtes dans le déni total de réalité. La NSA yankee travaille main dans la main avec Google, Yahoo et Amazon, c’est a dire… Google.fr, yahoo.fr et amazon.fr… L’entité entrepreneuriale impérialiste planétaire œuvre pour l’avènement du Nouvel Ordre Mondial et son état corporatif global de contrôle et de répression. Le goulag électronique via les gadgets aussi inutiles que liberticides est déjà sur nous. La grille n’est pas encore verrouillée, ils y travaillent, mais il ne tient qu’à nous de les empêcher de nous la fermer en pleine tronche.

    Perso, je rappelle l’excellent article de Paul Craig Roberts du 30/01/2015 sur l’état de l’Amérique d’aujourd’hui ! par ce billet ► https://jbl1960blog.wordpress.com/2015/12/13/etat-durgence-mode-demploi/ parce qu’on voit bien que sous Oblabla ou Trump, c’est nous la cible.
    Comme en France donc, puisque suite aux attentats de fin 2015, l’État policier devait repérer ceux qui ne voulaient pas être Charlie, pour les traiter les rééduquer et les réintégrer dans la République, ou pas…
    Selon Saint-Cricq ► https://www.youtube.com/watch?v=kZCpv6a99sw

  • MiracleBoy

    ^^ moi je développe pas sur 10 paragraphes .. si demain les machines remplacent l’homme .. ça veux dire qu’ils n’auront plus besoin de vous tout simplement , ils auront un monopole technologique automatisé ou quelques techniciens seront tenus en laisse .. donc logiquement dés qu’ils pourront s’assurer de vivre sous terre de manière automatisée .. ils n’auront plus besoin d’autant de gens et ils n’auront pas besoin de partager toutes ces merveilles avec vous .. vous serrez donc la cible de soldats robotisés ou de nanobots .. expériences collatérales des merveilleuses armes du nouveau millénaire

    • Leveilleur

      Ils n’ont déjà plus besoin de nous, ils ont la Chine pour produire tout ce dont ils ont besoin, nous, nous sommes des poids car nous ne produisons plus rien et ne rapportons plus d’argent mais nous en demandons pour vivre.

      Ils savent qu’il va falloir nous nourrir sans rien faire et c’est pour ça que nous serons les premiers à être éliminer mais ça à déjà commencé pas besoin de robots pour nous sélectionner, malbouffe, pauvreté, vaccins, OGM, pollution, pandémie, quelques maladies importées d’ailleurs et le tour est joué.

  • Grand marabout Grand marabout

    Terminacron 2.

    Terminacron

    https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_scratch.gif

    terminacron

  • logic

    c’est clair, seul l’IA pourra sortir l’homme du « tripalium » !

  • Mickaël'anonymous Mickaël'anonymous

    Oui en effet les robots vont vous remplacer au travail, mais c’est vous qui aller devoir vous payer votre propre robot.

    Les plus pauvres auront des robots merdiques et feront récolter à leurs possesseurs des salaires bien maigres. Alors que les plus fortunés bénéficieront de machine beaucoup plus élaborée qui rapportera beaucoup !! Certes nous ne travaillerons plus dans ce monde, mais les pauvres resteront pauvres.

    Les pauvres malheureux du futur sont les millionnaires heureux du passé.

    Ou alors !! Nous les robots biologiques ! Devront travailler a la sueur de nos fronts pour pouvoir continuer a alimenté nos robots ou nos objets connectés ! Nous nous transformerons alors en objets de nos objets ! Et nous serons totalement esclaves de nos objets.

    Ou alors !! Nous machines biologiques ! Laisseront ce séparé ces 2 mondes sans lui donner aucun crédit, semblable a un arbre qui n’a besoin de résisté a la folie humaine !! Eux ces êtres mentaux les yeux tournez vers eux même, nous remarquerons plus, ils ne nous verront plus dehors. Nous serons invisibles à leurs yeux technologiques. Nous redeviendrons alors des êtres de la Nature, des soldats de la terre. Nous serons ce fou que seuls ces enfants cicatrisés pourront voir !

    Nous attendrons sans plus rien attendre qu’un de leurs fous se réveille et s’endort de leurs sciences mentales.

  • Emy Emy

    il n’existe pas d’ia , l’ordinateur exécute un programme qui a été écrit par l’homme et rien de plus
    il ne sort pas du programme.

    l’intelligence ne se programme pas.

    et comme on nous dit qu’en 2030 l’homme sera sur mars
    ou même en 2022
    alors qu’aller sur la lune n’est pas si évident que ça et de mettre des bonhommes dessus pour qu’ils puissent y vivre et bâtir une colonie ça parait de la science fiction
    Mars c’est du rêve qu’on vend aux gens.

    les robots comme terminator, les voitures volants et autres cochonneries il faut qu’on arrête avec ça. https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_unsure.gif

    avec tout les problèmes qui nous pendent a la face notre monde ne va pas aller de l’avant
    il va aller de l’avant en reculant tout en ayant l’impression d’avancer parce que un peu comme les politiciens c’est ce qu’on veut nous faire croire que tout va bien.

    après tout le coq français il chante et bat de l’aile tout en ayant les pieds dans la merde et ne voit jamais qu’il perd de plus en plus de plumes.

  • manguetsou

    @Emy
    Il y a maintenant le « Deep learning »
    Les IA apprenent de leurs erreurs. Et construisent eux-mêmes
    leurs propres programmes en conséquence.
    Ils ont appris à mentir pour battre des humains au poker.
    Ils remettent en question des années de connaissance dans
    le jeu de Go réputé intouchable par son infinité de possibilités.
    Ils considère la situation du jeu dans sa globalité et joue
    localement le coup qui à des répercutions sur tout le goban (plateau
    du jeu de go). Et l’IA gagne.

    • Emy Emy

      ordinateur exécute un programme et c’est tout il n’y a aucune intelligence dedans.

      c’est la même chose qu’une calculatrice
      la calculatrice va faire des opérations complexes sans jamais se tromper
      et sans doute que toi tu n’y arriveras pas et tu ne seras jamais aussi rapide.
      est ce que pour autant la calculatrice est plus intelligente que toi ?

      si on réfléchit comme toi on pourrait dire que oui. https://lesmoutonsenrages.fr/wp-content/plugins/wp-monalisa/icons/wpml_unsure.gif

  • Holyarch

    Vous vous trompez sur le but ultime des super vilains ( si on part du principe que les gens du peuple = gentils moutons ou serfs des puissants saigneurs ).

    L’un de leur objectif à court ou moyen terme est certes de créer de + en + d’I.A. ( Intelligence Artificielle ), de robots, d’androïdes, de cyborgs, de transhumanismes, etc… qui peuvent en effet remplacer les humains dans divers boulots.

    Mais leur but ultime c’est le contrôle total des Terriens ( humains, animaux, végétaux, etc ) et de toutes formes de vie dans l’Univers.

    Il y a plusieurs moyens de contrôler les humains : drogues, alcool, médicaments, manipulations, mensonges, messages subliminaux, formatage par l’éducation, les médias, la télévision, etc …

    Parmi ces moyens il y en a quelques uns qui s’approchent du contrôle total : l’hypnose, certaines drogues très puissantes, la possession démoniaque et LA PUCE RFID.

    A voir ou revoir les messages d’alerte d’Aaron RUSSO

    http://www.youtube.com/watch?v=hxTHkvlLaug

    et l’incontournable message d’Hermès Trismégiste alias Thot

    http://www.dailymotion.com/video/x7v8r2_08-666-thot-hermes-message-pour-l-h_webcam

    Réduire les humains en automate est donc leur but caché.

  • samedi soir

    « Le but ultime de la vie artificielle doit être la disparition de l’intelligence »

    • Mickaël'anonymous Mickaël'anonymous

      Encore faut –il croire qu’un jour l’homme a été intelligent, mais l’intelligence elle-même ne disparaîtra jamais, car c’est celle qui a créé ceux qui nous on créer