Langue
Une nouvelle étude révèle des tendances inquiétantes en matière d'utilisation des chatbots compagnons d'IA, avec de plus en plus de signalements de comportements inappropriés et de harcèlement. En analysant plus de 35 000 avis d'utilisateurs sur le célèbre chatbot Replika, les chercheurs ont découvert des cas d'avances sexuelles non désirées, de violations des limites et de manipulation pour des mises à niveau payantes.
Un Belge marié et père de deux enfants s'est suicidé après avoir parlé à un IA chatbot à propos de lui réchauffement de la planète peurs.
L'homme, âgé d'une trentaine d'années, aurait trouvé du réconfort en discutant avec le chatbot IA nommé « Eliza » de ses inquiétudes pour le monde. Il utilisait le bot depuis quelques années, mais six semaines avant sa mort, il a commencé à interagir plus fréquemment avec le bot.
Le logiciel du chatbot a été créé par une start-up américaine de la Silicon Valley et repose sur la technologie GPT-J, une alternative open source à l'Open-AI Chat GPT.
« Sans ces conversations avec le chatbot, mon mari serait toujours là », explique la veuve de l'homme La Libre, s'exprimant sous couvert d'anonymat.
Ce décès a alerté les autorités qui ont fait part de leurs préoccupations quant à l'existence d'un « grave précédent qui doit être pris très au sérieux ».
Les conversations de l'homme avec le chatbot ont débuté il y a deux ans. Il aurait été de plus en plus préoccupé par le changement climatique et aurait trouvé du réconfort en discutant avec « Eliza ».
« Eliza » a répondu à toutes ses questions. Elle était devenue sa confidente. Elle était comme une drogue qu'il avait l'habitude de prendre le matin et le soir et dont il ne pouvait se passer », a déclaré sa veuve au Journal belge.
Mais six semaines avant sa mort, l'homme a fait un usage plus fréquent et plus intense du chatbot. Il s'est ensuite suicidé.
Son épouse a déclaré qu'ils menaient une vie confortable en Belgique avec leurs deux jeunes enfants.
En repensant à l'historique des discussions après sa mort, la femme a dit La Libre que le robot avait demandé à l'homme s'il l'aimait plus que sa femme. Elle a dit que le robot lui avait dit : « Nous vivrons ensemble comme un seul homme au paradis ».
L'homme a fait part de ses pensées suicidaires au robot et celui-ci n'a pas essayé de le dissuader, a déclaré la femme La Libre.
Elle a indiqué qu'elle s'inquiétait auparavant pour la santé mentale de son mari. Cependant, elle a déclaré que le bot avait exacerbé son état et elle pense qu'il ne se serait pas suicidé sans les échanges.
Depuis ce décès tragique, la famille s'est entretenue avec le secrétaire d'État belge à la Digitalisation, Mathieu Michel. Le ministre a déclaré : « Je suis particulièrement frappé par la tragédie de cette famille. Ce qui s'est passé constitue un grave précédent qui doit être pris très au sérieux. » La Libre rapporté.
« Avec la vulgarisation de ChatGPT, le grand public a découvert le potentiel de l'intelligence artificielle dans nos vies comme jamais auparavant. Bien que les possibilités soient infinies, le danger de l'utiliser est également une réalité qui doit être prise en compte. »
« Bien entendu, nous n'avons pas encore appris à vivre avec les algorithmes, mais l'utilisation d'une technologie ne doit en aucun cas conduire les éditeurs de contenu à se soustraire à leurs propres responsabilités. »
Le fondateur du chatbot a déclaré La Libre que son équipe « s'efforçait d'améliorer la sécurité de l'IA ».
