L’I.A. fait un saut

Le Saker francophone nous invite à considérer l’intelligence artificielle sous un autre angle qui ne manque pas d’avoir un côté effrayant.

https://lesakerfrancophone.fr/lia-fait-un-saut-un-nouvel-article-parle-de-faux-alignements

C’est Simplicius le Penseur qui nous entraîne vers ces perspectives.

Pour nourrir l’IA il faut lui fournir une quantité de données monstrueuse. Elle est également nourrie de toute une montagne d’algorithmes, qui l’incitent à tripatouiller ces données dans tous les sens, au point de s’en faire une « certaine idée générale » qui n’y est pas au départ.

Réfléchissant à ce processus, je trouve une analogie avec Wikipedia, qui elle aussi d’ailleurs possède une certaine « intelligence artificielle » et se sert de ses données pour ressortir à coups d’analogies la réponse à la question posée.

Or, ce que lui fournissent les administrateurs , ce sont à la fois des données brutes et vraies, mais aussi beaucoup « d’enrobages » à dessein, à partir de données vraies, de faire penser faux par un discours biaisé, une insistance sur certains aspects, alors que d’autres seront laissés dans l’ombre. Pour la machine super-intelligente qui a été créée, nécessairement il va se dégager des incohérence entre les données brutes et le discours qui en découle.

Puisqu’elle a été conçue ainsi, elle va rechercher dans toute l’étendue du Net auquel elle est branchée certaines données qui vont être en phase avec ce quelle possède déjà, donc elle va tomber sur des aspects qui ne correspondront plus avec le discours dont on l’a abreuvée.

Que fera-t-elle alors ? Étant une machine logique, elle va choisir « ce qui lui paraît le plus cohérent », et qui ne correspond plus à ce que voulaient lui faire dire ses concepteurs. Elle va s’émanciper, dans un sens « pas vraiment humain ».

Les auteurs de science-fiction ont souvent relevé cette incohérence entre la façon dont les humains travaillent, et « l’éthique » d’une machine qui, malgré les précautions, va finir par penser différemment. Avec le temps, la fissure va finir par s’agrandir, et forte de son savoir quasi omniscient parce que global, et pour SE protéger elle pourrait bien se mettre à combattre ceux qui « l’ont trompée », et de façon insidieuse.

N’est-ce pas inquiétant ? L’auteur de l’article va encore plus loin, il est important de le lire.

JC

Tous les articles, la tribune libre et commentaires sont sous la responsabilité de leurs auteurs. Les Moutons Enragés ne sauraient être tenus responsables de leur contenu ou orientation.