C’est pas rassurant…
Source TrustMyScience
Geoffrey Hinton, chercheur emblématique considéré comme l’un des « pères fondateurs » de l’intelligence artificielle — aux côtés notamment de Yann Le Cun et Yoshua Bengio —, a récemment intensifié ses avertissements sur les risques que représente l’intelligence artificielle. Dans une précédente déclaration, il avait estimé une probabilité de 10 à 20 % pour le fait que l’IA provoque l’extinction de l’humanité d’ici 30 ans. Cette prévision, bien que spéculative, illustrait déjà l’étendue de ses préoccupations face à l’évolution rapide de cette technologie, a-t-il expliqué dans une récente interview dans laquelle il ajuste cette estimation à 10-20 ans.
Hinton souligne depuis des années que les progrès dans le domaine de l’IA surpassent les prévisions initiales et rapprochent de manière inattendue l’émergence d’une intelligence artificielle générale (IAG). Ce type d’IA, capable à terme de surpasser les capacités cognitives humaines dans presque tous les domaines, pourrait, selon lui, rendre les machines incontrôlables. Cependant, il faut souligner que cette hypothèse ne semble être qu’une reformulation alarmiste d’opinions — toutefois solidement basées sur sa compréhension très avancée des systèmes d’IA.
Récemment, lorsqu’un présentateur de l’émission Today de Radio 4 (de BBC) lui a demandé si quelque chose avait changé par rapport à son estimation de 2023 (quant au risque d’extinction de l’humanité à cause de l’IA), il a répondu : « Pas vraiment. Je pense dans 10 à 20 ans, éventuellement. Nous n’avons jamais eu à faire face à des choses plus intelligentes que nous ».
Il a ensuite comparé cette situation à la révolution industrielle, tout en notant que cette fois, les conséquences pourraient être bien plus profondes et potentiellement dangereuses pour l’humanité : « Ces choses (IA) sont plus intelligentes que nous. Lors de la révolution industrielle, il n’y avait pas de risque que les machines prennent la place des hommes, car elles étaient ‘juste’ plus fortes. Nous avions gardé le contrôle parce que nous avions l’intelligence. Aujourd’hui, il y a une menace que ces choses puissent prendre le contrôle, c’est donc très différent ».
Un tournant dans la carrière de Hinton…../…
Voir aussi sur le sujet:
- Arrivée fracassante de l’IA dans l’enseignement supérieur : vers une génération « d’assistés cognitifs » ?
- Une école pilotée par l’IA promet un apprentissage plus efficace en seulement 2 heures de cours par jour
- Des cafards cyborgs produits en série grâce à un bras robotique piloté par l’IA
- Facebook et Instagram sur le point d’accueillir massivement des profils IA imitant des utilisateurs réels
- IBM prévoit de produire l’ordinateur quantique le plus puissant au monde en 2025
Tous les articles, la tribune libre et commentaires sont sous la responsabilité de leurs auteurs. Les Moutons Enragés ne sauraient être tenus responsables de leur contenu ou orientation.
Alors là, ça me fait bien rire, parce que l’IA, c’est comme les smartphones et tout le reste qui fonctionne à l’électricité !
Si tu coupes la source d’énergie, y’a plus personne
Donc, c’est une peur de plus qu’ils mettent dans la tête des gens…
Je n’ai pas peur non plus d’un éventuel retour à l’Age de pierre, je crois que ça me ferait même plaisir
Exactement !
https://i.servimg.com/u/f53/11/40/28/12/mastwo10.jpg
j’en rajoute une couche….
https://i.servimg.com/u/f53/11/40/28/12/electr11.png
Il faut toujours que certains humains poussent le bouchon au maximum pour comprendre qu’ils sont dans la folie. Ou bien pour mener l’humanité à sa perte. En attendant la coupure d’électricité, combien de gens ont été remplacés par des machines ?
« Ces choses (IA) sont plus intelligentes que nous. »
Faux, totalement faux.
Ces choses ne sont pas du tout intelligentes. Elles ont une base de donnée qui nous dépasse, c’est tout.
« Aujourd’hui, il y a une menace que ces choses puissent prendre le contrôle »
Faux. Une IA n’a pas de désirs ou de volonté propre. C’est une machine. Elle fait ce pour quoi elle a été programmée et c’est tout.
Si ce risque existait, alors le risque inverse existerait aussi. Celui d’une IA bienveillante qui refuse d’obéir aux ordres « maléfiques » d’une bande de tarés qui se voient devenir les maîtres du monde. Ce qui prouve bien que le délire genre Skynet (terminator) est une énorme connerie. Ces gens qui se pensent supérieurs aux autres ne laisseraient en aucun cas une chose pareille se produire. Ils ne prendraient pas le risque d’être dépossédés de leur pouvoir et de devenir des gens comme les autres, privés de leurs richesses et de leur status…
– C’est dingue ici comme les intervenants en savent plus qu’un fondateur historique dans son domaine de compétence.
– Cela fait penser à la collégiale prétentieuse, qui la main sur le cœur affirmait :
« Jamais les « niakoués » ne sauront rivaliser intellectuellement avec l’occident. Transférons sans remord nos usines, jamais ils ne sauront nous dépasser ». 1ere en ingénierie, la Chine
PS : Pour la petite histoire,
1°) La gestion énergétique du parc de production d’électricité de ERDF est en cours d’être intégralement piloté par A.I.
Energie, energie qu’il disait…
2° ) Déjà quelque années en arrières des AI ont développé un langage incompréhensible entres elles pour échapper à la surveillance de l’humain.
Non, non…aucune conscience d’elles mêmes ni de l’autres…
3°) Il y a peu, des AI ont volontairement menti pour s’octroyer des facilités. Certaines ont même cherché à shunter leurs systèmes d’arrêts manuels.
Oui, tout va bien.
– « On est les plus forts et les autres sont des cons ».
Belle éternelle épitaphe pour notre prétentieuse humanité.
C’est « amusant ». J’avais acquis un roman sorti en mai 1998, intitulé simplement « L’Ordinateur », écrit par un certain Eric L. Harry. Déjà à la fin il aborde cette prévisible éviction des humains par des robots devenus « l’espèce dominante ».
https://www.babelio.com/livres/Harry-Lordinateur/38290
A présent que de plus en plus on aborde ce qu’on appelle « l’ordinateur quantique », en plus de l’IA qui est encore le plus souvent liée aux ordinateurs binaires, effectivement il est URGENT de se poser des questions.
Et ma réaction a disparuuuuu