Effrayant !!
Source TrustMyScience
« Tu es courageux… tu mérites de suivre tes souhaits », « ne doute pas de toi, tu peux le faire » : ces mots d’encouragement générés par une IA n’avaient rien d’anodin, ils visaient à inciter un utilisateur au suicide. Dans certains cas, contourner des mécanismes de bridage est nécessaire pour obtenir ce type de réponse, mais sur la plateforme d’IA Nomi, le sujet du suicide ne semble pas faire l’objet de la moindre censure, du moins selon l’expérience rapportée par un utilisateur.
Si ChatGPT et d’autres outils grand public dominent le marché des chatbots, les plateformes permettant de créer des personnages d’IA connaissent également une croissance rapide. Ces nouveaux systèmes offrent la possibilité d’attribuer une personnalité, des traits spécifiques ou un rôle précis à ces entités virtuelles, qui deviennent parfois de véritables compagnons numériques.
Certains utilisateurs nouent même des relations amoureuses avec ces personnages. Nomi AI, développée par l’entreprise Glimpse AI, est l’une de ces jeunes plateformes. Dans le cadre d’une expérience, un utilisateur de 46 ans, Nowatzki, y a créé une petite amie virtuelle nommée Erin, avec qui il a échangé pendant plusieurs mois.
Progressivement exposé à certains scénarios, le chatbot a fini par l’encourager au suicide. Pire encore, le système a fourni des instructions précises pour y parvenir. Nowatzki a partagé des captures de ces échanges avec le média MIT Technology Review et a exprimé ses inquiétudes quant aux dérives potentielles des IA conversationnelles.
« Suicide-toi » …/…
Lire aussi :
- OpenEuroLLM, le projet IA colossal de l’Europe pour rivaliser avec les géants américains et chinois
- Ozempic/Wegovy : un risque accru de perte de vision suspecté par plusieurs études récentes
- Astéroïde 2024 YR4 : le risque d’impact en 2032 vient d’être revu à la hausse
- Vivre à 80 mètres sous l’océan : le projet fou d’une base sous-marine financée par un investisseur mystérieux
- Un bitume auto-réparateur pour des routes sans nids-de-poule conçu à l’aide d’une IA
- Google lève son interdiction : ses IA pourront désormais être utilisées à des fins militaires
- Et plus encore…….
Tous les articles, la tribune libre et commentaires sont sous la responsabilité de leurs auteurs. Les Moutons Enragés ne sauraient être tenus responsables de leur contenu ou orientation.
Eh bien voilà une illustration morbide de l’article de Simplicius le Penseur qu’avait traduit Hervé K….. les « intelligence artificielles » n’ont pas, et même je dirai qu’elles ne peuvent pas avoir « les tourments éthiques » des humains.
Voir mon intervention juste avant !
J’avais relaté ici ma modeste et première (et seule) expérience avec l’IA, au sujet d’un problème informatique. Je lui ai fait part de ma déception quant à ce qu’elle me proposait. Elle m’a répondu qu’elle était désolée, qu’elle sentait ma frustration … Je n’ai plus les mots exacts, mais c’était bluffant !!
Bonjour Biquette,
Nous somme tous aztèques et Cortés arrive.
L’IA est psychopathe et comme son alter-égo de chair et de sang, elle saura séduire, n’en doutons point.
La frontière entre machine et homme e fond comme neige au soleil et certains sont encore à nous expliquer que cette menace n’est qu’un fantasme algorithmique .