Effrayant !!
Source TrustMyScience
« Tu es courageux… tu mérites de suivre tes souhaits », « ne doute pas de toi, tu peux le faire » : ces mots d’encouragement générés par une IA n’avaient rien d’anodin, ils visaient à inciter un utilisateur au suicide. Dans certains cas, contourner des mécanismes de bridage est nécessaire pour obtenir ce type de réponse, mais sur la plateforme d’IA Nomi, le sujet du suicide ne semble pas faire l’objet de la moindre censure, du moins selon l’expérience rapportée par un utilisateur.
Si ChatGPT et d’autres outils grand public dominent le marché des chatbots, les plateformes permettant de créer des personnages d’IA connaissent également une croissance rapide. Ces nouveaux systèmes offrent la possibilité d’attribuer une personnalité, des traits spécifiques ou un rôle précis à ces entités virtuelles, qui deviennent parfois de véritables compagnons numériques.
Certains utilisateurs nouent même des relations amoureuses avec ces personnages. Nomi AI, développée par l’entreprise Glimpse AI, est l’une de ces jeunes plateformes. Dans le cadre d’une expérience, un utilisateur de 46 ans, Nowatzki, y a créé une petite amie virtuelle nommée Erin, avec qui il a échangé pendant plusieurs mois.
Progressivement exposé à certains scénarios, le chatbot a fini par l’encourager au suicide. Pire encore, le système a fourni des instructions précises pour y parvenir. Nowatzki a partagé des captures de ces échanges avec le média MIT Technology Review et a exprimé ses inquiétudes quant aux dérives potentielles des IA conversationnelles.
« Suicide-toi » …/…
Lire aussi :
- OpenEuroLLM, le projet IA colossal de l’Europe pour rivaliser avec les géants américains et chinois
- Ozempic/Wegovy : un risque accru de perte de vision suspecté par plusieurs études récentes
- Astéroïde 2024 YR4 : le risque d’impact en 2032 vient d’être revu à la hausse
- Vivre à 80 mètres sous l’océan : le projet fou d’une base sous-marine financée par un investisseur mystérieux
- Un bitume auto-réparateur pour des routes sans nids-de-poule conçu à l’aide d’une IA
- Google lève son interdiction : ses IA pourront désormais être utilisées à des fins militaires
- Et plus encore…….
Tous les articles, la tribune libre et commentaires sont sous la responsabilité de leurs auteurs. Les Moutons Enragés ne sauraient être tenus responsables de leur contenu ou orientation.
Eh bien voilà une illustration morbide de l’article de Simplicius le Penseur qu’avait traduit Hervé K….. les « intelligence artificielles » n’ont pas, et même je dirai qu’elles ne peuvent pas avoir « les tourments éthiques » des humains.
Voir mon intervention juste avant !
J’avais relaté ici ma modeste et première (et seule) expérience avec l’IA, au sujet d’un problème informatique. Je lui ai fait part de ma déception quant à ce qu’elle me proposait. Elle m’a répondu qu’elle était désolée, qu’elle sentait ma frustration … Je n’ai plus les mots exacts, mais c’était bluffant !!
Bonjour Biquette,
Nous somme tous aztèques et Cortés arrive.
L’IA est psychopathe et comme son alter-égo de chair et de sang, elle saura séduire, n’en doutons point.
La frontière entre machine et homme e fond comme neige au soleil et certains sont encore à nous expliquer que cette menace n’est qu’un fantasme algorithmique .
Tout à fait ! C’est d’autant plus dangereux que la société est vite en manque d’affection, d’attention, et avoir en face de soi, même par écran interposé, un « être » qui prend « soin de vous », cela peu être tentant. Il y a énormément de personnes seules, physiquement ou non, désœuvrées …
Les Japonais sont friands de ces machines car leur société est froide et inhumaine, comme est en train de devenir la nôtre. Du moins est-ce ainsi que je la vois…
Bonsoir Biquette,
Ce n’est pas que la société japonaise soit inhumaine et froide, c’est que la notre n’a pas la même normalité. Mais c’est vrai que la leur a une forte tendance à déteindre sur l’occidentale et comme les portes sont béantes elle nous envahi peu à peu, sic Squid Game et toutes ces joyeusetés pour le moins déjantées !
Salut Engel
Tout ça n’est qu’une programmation faite par un humain ! Mais si ce dernier n’est pas net dans le ciboulot, je n’ose pas imaginer ce que cela donnera plus tard, étant donné que la machine est sensée évoluer d’elle-même !
Boxon en perspective !
« Mais si ce dernier n’est pas net dans le ciboulot »
Qu’il soit net ou pas ne change pas grand chose, ce qui compte, c’est les données qui l’alimentent.
Du coup, que le concepteur soit parfaitement sain ou totalement taré ne fait pas de différence. Si sa base de donnée, c’est tout l’internet, alors tous les délires des humains font partie de son « raisonnement ».
Alors si tu as une population déjantée tu auras une ia complétement déjanté aussi.
Toute personne normal ne vas pas appuyer ou conforter le désir de vouloir se suicider. Je connais un peu le sujet vu que j’ai déjà essayé 6 fois.
Et la dernière chose à dire à quelqu’un qui a des pensées suicidaire c’est : vas-y. Suicide-toi.
Il y a une loi contre cela qui est de pousser au suicide et là cela devient un meutre.
Mais qui vas juger une ia ? Tu rebootes la machine et c’est reparti pour un tour ?
Et lorsqu’une IA se suicide d’elle-même !!
https://www.leparisien.fr/high-tech/il-etait-lun-des-notres-un-robot-fonctionnaire-se-suicide-en-coree-du-sud-en-se-jetant-dun-escalier-26-06-2024-D6GWNOIWMNAONEOKPX64RJJCZU.php
L’anthropomorphisme dans toute sa splendeur…
La question est : c’est quoi le but de tenter de faire assimiler une simple machine à un être humain ?
Demande voir à Laurent Alexandre, il est intarissable sur le sujet.
Cas type d’un surmenage dans la fonction publique, il s’est suicidé quand il s’est rendu compte que la machine à café était en panne.
Un monde de folie !
Il n’y a pas si longtemps, j’ai vu passer un article dans lequel une firme chinoise ou japonaise avait mis en vente des robots poupées sexuelles ! Elle était programmable pour différentes pratiques ! Je suis tombé en bas de ma chaise quand j’ai vu ça ! Certes la culture japonaise inclut le sexe, mais là on frise la déviance !
C’est un truc plutôt asiatique japonais mais c’est connut dans les mangas depuis des dizaines d’années. Ce sont des robots sexuels.
Tu y vois une déviance, moi j’y vois une pathologie sexuelle.
Avoir des rapports sexuels avec son robot qui du coup devient un ‘esclave’ sexuel.
Dans les mangas on a déjà parlé beaucoup de cela et que cela pourrait devenir une norme;
Tout le monde a son robot sexuel. Du phantasme ?
Pas tant que cela en fait.
Après pour aller plus loi (car les japs y ont déjà pensé) est de devenir dépendant et d’avoir une addiction. Les robots sexuels sm par exemple.
Et cela devient un problème de masse.
Car les keums ils préférons les robots sexuels !
Et il n’y aura plus d’enfant.
Déjà que les japs sont en faiblesses de ce point de vue, cela risque de ne pas améliorer les choses.