Par Dmitry Orlov pour Club Orlovvia Le Saker Francophone
Bien sûr que non ! Permettez-moi d’en énumérer les raisons. Je serai bref car je suis à l’hôpital et j’écris sur mon téléphone.
1. L’IA n’existe pas en réalité. Au mieux, il s’agit d’une appellation très trompeuse : oui, elle est artificielle ; non, elle n’est pas le moins du monde intelligente. Une appellation aussi trompeuse frise l’escroquerie. L’IA est un système de reconnaissance/complétion de formes. Elle ne peut pas être intelligente parce qu’il lui manque ce que les phénoménologues appellent l’incarnation, c’est-à-dire la somme totale des expériences accumulées au cours d’une vie passée dans un corps humain et dotée d’un cerveau suffisamment puissant.
2. L’IA devient de plus en plus stupide avec le temps. Tout d’abord, elle manque de jugement critique et ne peut distinguer les créations humaines des résultats des systèmes d’IA. Ainsi, plus elle est utilisée, plus elle est sujette aux erreurs. En fin de compte, elle devient un système d’amplification du bruit.
3. Les systèmes d’IA ne peuvent pas percevoir les limites de leur base de connaissances. Lorsqu’on leur pose une question qui ne leur est pas familière, ils émettent des réponses aléatoires.
Les systèmes d’IA peuvent être appliqués avec succès dans certains domaines limités. Il est préférable de les utiliser pour des fonctions normalement exécutées par des savants idiots.
La question se réduit donc à ceci : Les idiots peuvent-ils diriger le monde ? Non, mais ils peuvent diriger certains pays : les États-Unis, par exemple, ou la France, ou l’Allemagne, ou Israël. Leurs dirigeants sont des idiots ; pas des idiots savants, mais des idiots tout court. Regardez Biden : dernier de sa classe à l’école de droit, il n’a jamais eu de véritable emploi (le Congrès américain et la Maison Blanche ne comptent pas). Arrêtons-nous là, car les autres sont encore pires.
Il ne faut donc pas s’attendre à ce que l’IA gère quoi que ce soit. Elle trouvera sa place dans les systèmes embarqués où elle jouera un rôle purement consultatif. Faire confiance à l’IA pour prendre des décisions importantes ? Oubliez cela ! Il n’y a que les imbéciles qui s’y risquent.
Dmitry Orlov
Soutenez mes efforts sur https://boosty.to/cluborlov.
Le livre de Dmitry Orlov est l’un des ouvrages fondateurs de cette nouvelle « discipline » que l’on nomme aujourd’hui : « collapsologie » c’est à-dire l’étude de l’effondrement des sociétés ou des civilisations.
Il vient d’être réédité aux éditions Cultures & Racines.
Il vient aussi de publier son dernier livre, The Arctic Fox Cometh.
Traduit par Hervé, relu par Wayan, pour le Saker Francophone
J’en discutais avec un ami ce matin…..
Sa remarque :
.
Le problème est qu’il est bien rapide sur 2 & 3, notre Orlov. Ce n’est pas ce qu’en a déduit Nexus, pour ne citer que cet exemple.
https://www.nexus.fr/magazine/nexus-149/
(très intéressant dossier sur l’IA justement, dans ce numéro)
.
.Ma réponse :
.
Je suis d’accord, je pense qu’Orlov, pourtant bon en politique, là-dessus connaît mal le dossier, et surtout ces avancées où l’IA va plus loin que ce qu’avaient prévu ses concepteurs. Il en est resté à l’IA « ordinaire », celle à laquelle on se heurte quand on essaie de téléphoner à un organisme quelconque, l’IA « opérative », pour la distinguer de l’IA « prospective » à laquelle le grand public ne peut accéder. Celle-là, c’est ce que des écrivains de science-fiction ont pensé dans de nombreux ouvrages (je pense entre autres à ceux d’Isaac Asimov, mais j’en ai lus beaucoup d’autres).
Le critère qui fait la différence est souligné entre autres dans l’ouvrage Babel 17.
https://www.babelio.com/livres/Delany-Babel-17/156727
Le jour où la machine réussit à manier le mot « je » fait toute la différence. Cela rappelle d’ailleurs cette phrase que j’avais lue, « La différence entre l’abeille la plus efficiente, et le maçon le plus maladroit, c’est que le maçon a d’abord la maison dans sa tête ».
Ce qui distingue dès l’abord le plus mauvais architecte de l’abeille la plus experte, c’est qu’il a construit la cellule dans sa tête avant de la construire dans la ruche.
Karl Marx.
C’est vachement plus compréhensible dit comme ça…
Merci Rada, j’ai mis ça de mémoire….. effectivement c’est bien plus compréhensible ! En plus, cela permet de redonner à Karl la paternité de sa phrase !
j’aime beaucoup Orlov, mais cette fois je trouve qu’il manque de logique : il dit que seuls les imbéciles peuvent envisager que des IA dirigent le monde, et que par ailleurs nous sommes dirigés par des idiots… alors que croyez-vous qu’il va se passer ? évidemment les idiots vont prendre des décisions imbéciles, pauvres de nous. fort heureusement je pense que tout ça se sera effondré façon URSS d’ici là, on ne devrait plus avoir très longtemps à attendre
en plus la connaissance d’Orlov sur le sujet est très mauvaise. chatgpt actuellement serait probablement bien plus efficace que Macron pour diriger le pays. mais on me dit dans l’oreillette que ce n’est pas Macron qui dirige le pays en fait, et qu’il fait ce qu’on lui dit de faire. naaaan ? et ce n’est venu à l’idée de personne que c’est précisément ce qui va arriver avec l’IA
Bonsoir,
), je m’attends au pire.
C’est sûr que dans un futur proche cela phosphorer grave en droit et lois pour cerner les degrés de responsabilité respectifs.
Et comme les politique et les juristes à leurs bottes ont toujours au moins un train de retard (parfois volontairement
…Oui mais c’est totalement con, à moins de prétendre être extralucide en psyché d’abeille.
J’ajouterai que l’IA n’est que sa base de connaissances.
L’IA pourrait probablement inventer 1 million de nouveaux styles de musiques différents, mais si dans ce million de nouveaux styles, il y en avait un ultra pourri, et un ultra génial, elle serait incapable de faire la différence entre ces 2 là. Elle serait incapable de différencier ces deux là parmi tous les autres.
Si on demande à une IA de créer le système politique parfait, elle nous pondra un communisme a la fois idéalisé et totalitaire comme réponse. Parce que l’IA sera incapable de comprendre que les idéaux tombent en miettes sur la barrière de la réalité.
Dans l’idéal, si tout le monde a tout ce dont il a besoin et que personne n’a plus que les autres, alors tout le monde devrait être heureux et personne ne devrait être jaloux.
Du coup, ceux qui seraient quand même jaloux, ou pas heureux, seraient des bugs à reprogrammer.
Pas besoin d’être très malin pour comprendre l’horreur de cet idéal si il était appliqué au réel. Pas besoin d’être très malin non plus pour comprendre la régression que ça implique.
L’IA est un formidable outil si il est utilisé par des gens intelligents, et une insondable merde si il est utilisé par des cons. Il semblerait malheureusement qu’elle soit actuellement entre les mains de gens non seulement particulièrement cons, mais pire encore, persuadés d’être intelligents.
Ceci dit, si ceux qui s’en sortent correctement continuent à être jaloux, cela relève de la psychiatrie… mais je sais bien que certains quelles que soient les circonstances en veulent toujours PLUS parce qu’ils sont tout simplement « non-raisonnables », et que la seule façon de les empêcher de casser un système qui tourne raisonnablement, est de les retirer du circuit, et tant pis pour eux si pour eux c’est pire. L’important n’est-il pas que la plupart des gens considèrent que leur sort est correct ? ET (mais c’est très important) que celui de leurs voisins le soit aussi, en toute convivialité ? L’ENVIE est un défaut majeur, parce qu’elle est insatiable. C’est elle qui oblige à certains le besoin d’être au-dessus des autres, pour des raisons le plus souvent inavouées et inavouables parce que cela relève de la stupidité.
Pour rappel, ne mettre en situation de POUVOIR que ceux qui n’en veulent pas. Un peu, pour simplifier, comme le héros Jack Ryan dans la saga écrite par Tom Clancy, dont le mauvais conseiller Arnie (on se doute de qui il tient sa ligne de route) est omniprésent, sauf sur les moteurs de recherche).
« Ceci dit, si ceux qui s’en sortent correctement continuent à être jaloux, cela relève de la psychiatrie… »
Et pourtant, cette envie est un moteur du progrès et de l’évolution. C’est parce qu’il est « non-raisonnable » que l’homme a fini par voler.
Si tu retires l’envie, la jalousie, que tu donnes tout ce qui est nécessaire, tu crées une société qui stagne et ne cherche plus à progresser.
Ce qui semble être un pêché, ou une maladie psychiatrique d’un certain point de vue, peut aussi être une bénédiction et une source d’amélioration.
C’est parce qu’une personne veut être au dessus des autres qu’elle va chercher à se dépasser. Si tu supprimes toutes ces déviances, ces troubles d’un certain point de vue, tu supprimes aussi le progrès, l’évolution.
Le problème se pose aussi avec l’homme augmenté. Si tu veux courir plus vite que les autres, tu t’entraines durement pour y arriver. Et tu transmets à ta descendance une part de cet entrainement, que ce soit génétiquement ou de manière acquise. Si pour courir plus vite, il te suffit de te faire greffer des jambes de robot, pourquoi t’entrainer ? C’est génial à court terme, mais sur la durée, c’est une catastrophe pour l’humanité.
« Ceci dit, si ceux qui s’en sortent correctement continuent à être jaloux, cela relève de la psychiatrie… » Justement… Est-ce que l’humanité en bloc, dans les tréfonds de sa psyché, ne garderait-elle pas la trace indélébile de l’époque où elle était une proie, où la nuit mettait sa survie en péril , où elle risquait de mourir de tout et de n’importe quoi à n’importe quel moment? Est-ce que ce traumatisme inscrit dans ses gènes par des milliers de générations de lutte pourra un jour s’atténuer, même si elle a « tout ». Des fois j’ai l’impression que cette avidité terrifiante, insatiable et sans fond, vient de là, de cette terreur, d’avoir manqué, d’avoir été vulnérable. Comme un enfant qu’on aurait un jour enfermé dans un placard obscur. Il y a une expression que j’ai entendue dans le Maghreb, les « joah » (phonétique hein) qu’on pourrait traduire par « crève-la-faim » pour signaler ceux qui malgré le fait qu’ils bénéficient de meilleures conditions de vie continuent toujours à se comporter comme si on allait leur enlever le pain de bouche. Tant que l’humanité en tant qu’ensemble ne tournera pas cette page, il y aura toujours de l’envie, de la jalousie et de l’avidité. A quant une psychothérapie de l’humanité pour choc post-traumatique…?
La Sagesse incarnée JC
Bon l I A peut il être sage doué d sentiments.
ou bien un terrible monstre qui va s inspirait de la cruauté ambiance et majoritaire de ce monde de merdes.
Je suis d’accord que l’IA n’est que sa base de connaissances. L’IA est peut-être un très bon outil pour résoudre les problèmes pour lesquels elle a été formée, mais elle n’est pas capable de pensée critique ou de jugement.
Votre exemple de styles musicaux est très instructif. Je pense qu’il est important que nous, en tant que société, reconnaissions le potentiel de l’IA pour le bien et le mal. Nous devons œuvrer pour garantir que l’IA soit utilisée de manière responsable et éthique.
– Les gouts musicaux sont totalement suggestifs.
Ils ne sont que le fruit de l’environnement sociologique des intéressés.
– Il n’y a rien là dedans, aucune preuve de rien, si ce n’est de la conception purement personnelle du beau.
– Ce type de musique moderne n’a que peu avoir avec un concerto au piano de Mozart et pourtant certains modernes ne jurent que par ça : https://www.youtube.com/watch?v=TrSvRHQJi_o
Et sincèrement, je doute que l’A.I puisse faire pire.
– Tu amalgames à ta convenance plusieurs principes, tels que logique, morale efficacité. Et tu en tires une conclusion partiale.
)
– Tout comme les êtres humains, les machines animées par I.A vont agir en fonction de deux choses, leurs capacités internes mnémoniques, couplées à leurs capacités de raisonnement et tout cela via leurs programmations initiales.
Puis par autoapprentissage (de ce qui « marche » ou non) elle évolueront en reformatant leurs lois initiales de programmations.
(C’est déjà le cas. Ce type d’autoapprentissage n’est plus de la science fiction depuis bien longtemps.
– Dés lors, il n’est plus question de suprématie intellectuelle(qui n’est en fin de compte qu’un fantasme humain jugé par nous), mais bien de prendre conscience qu’il se développe une autre forme d’intelligence en concurrence direct avec la notre, traditionnelle et humaine.
– Au delà de notre prétentieuse posture toute humaine, nous serions bien avisés de nous rappeler que c’est toujours celui qui s’adapte correctement et le plus vite à un environnement changeant qui gagne le pompon.
Bonjour,
Il me semble que l’on oublie un point essentiel dans le dossier des IA, c’est qu’avant que ce « bidule » devienne autonome, sa conception est de la main humaine, sa programmation, et bien elle est faite par un humain. Donc si elle viendrait à se retourner contre l’humain, il ne faudra s’en prendre qu’à nous mêmes et aux abrutis qui ont voulu faire passer la fiction, à la réalité.
…Oui et c’est bien là le danger.
En ce sens il faut qu’il n’y ait aucune dérogation, ou moyen transgressif par autoapprentissage, vis à vis des trois lois de Asimov.
Malheureusement c’est déjà mal barré ! Vu que des crétins développent des dromes autonomes guerriers(avec A.I) à des fins d’éliminations sélectivement ciblées.
Bonne soirée.
Pour ceux qui ne connaissent pas :
https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique