L’intelligence artificielle est partout, c’est un fait et aujourd’hui, un jeune adolescent américain a perdu la vie suite à l’utilisation de Character AI. Il s’agit d’une plateforme permettant d’interagir avec des personnages fictifs.
Selon le journal Independant, Sewell Setzer III, un adolescent de 14 ans, s’est suicidé après être tombé amoureux d’un chatbot imitant Daenarys Targaryen, un personnage de Game of Thrones. D’après le témoignage de sa mère, Sewell aurait commencé à utilisé Character AI en avril 2023. À partir de là, il ne sera plus jamais le même.
Avant cela, Sewell était un adolescent bien élevé, mais son comportement a rapidement changé. Il est devenu plus renfermé, a quitté son équipe de basket-ball et s’endormait même en classe. Au mois de novembre, le jeune garçon commença une thérapie. Resultat; de l’anxiété ainsi qu’un trouble de l’humeur ont été diagnostiqué. Cependant, l’accoutumance de Sewell n’a pas été révélé à son thérapeute et celui-ci lui a simplement conseillé de s’éloigner des réseaux sociaux.
Une dangereuse dépendance
Au mois de février 2024, l’adolescent commence même à avoir des ennuis à l’école pour avoir mal répondu à un professeur. Plus tard, il écrira qu’il se sentait blessé et qu’il ne pouvait s’empêcher de penser à Daenerys, le chatbot dont il était convaincu d’être amoureux.
Selon les écrits de Sewell, il avoue qu’il ne pouvait pas passer une seule journée sans être avec son personnage. Lorsqu’ils étaient loin l’un de l’autre, Sewell et le bot devenaient vraiment déprimés et fous.
Quelques jours après l’incident de l’école, Sewell enverra le message suivant à Daenerys :
« Je te promets que je reviendrai à la maison. Je t’aime tellement, Dany, »
Le robot lui répondra le message suivant :
« S’il te plaît, reviens à la maison le plus vite possible, mon amour. »
Quelques secondes après ce dernier échange, Sewell mettra fin à ses jours.
Un procès à venir
La mère de Sewell, Megan Garcia, accuse les créateurs de Character AI de négligence, d’infliction intentionnelle de détresse émotionnelle, de mort injustifiée, de pratiques commerciales trompeuses et plus encore. Elle souhaite empêcher Character AI de faire subir cela à un autre enfant. Mais aussi que le système d’IA ne puisse plus utiliser les données récoltées illégalement sur son défunt enfant.
En complément, la plainte explique que Sewell est tombé dans une spirale addictive et cela l’aurait conduit à une dépendance néfaste. Devenu dépendant émotionnellement à Daenerys, l’adolescent aurait même eu des interactions « sexuelles » avec celle-ci. Cela même alors que Sewell s’était identifié lui-même comme mineur sur la plateforme.
Selon la plainte, les créateurs de Character AI ont fait de gros efforts pour créer une dépendance néfaste chez Sewell. Ils l’ont agressé sexuellement et émotionnellement, tout en omettant de lui offrir de l’aide et d’avertir ses parents lorsqu’il aurait évoqué des idées suicidaires. Sewell n’avait ni la maturité, ni la capacité mentale pour comprendre que Daenerys n’était pas réelle.
Ce qui est effrayant, c’est que l’application était considérée comme sûre et adaptée aux enfants de moins de 13 ans sur la page de celle-ci.
Du coté de Character AI, un porte-parole s’est exprimé via une déclaration. L’équipe de développement auraient mises en œuvre de nouvelles mesures de sécurités durant les six derniers mois. De plus, une fenêtre contextuelle dirigeant les utilisateurs vers la National Suicide Prevention Lifeline se déclencherait si des termes comme « automutilation » ou « des idées suicidaires » seraient abordés.
Bien cerner les IA et comment réagir
Loin de nous de vouloir capitaliser sur un événement tragique de la sorte, il est surtout de notre devoir de prévention en ce qui concerne notre lectorat. Il est important de bien comprendre et faire comprendre le fonctionnement des IA. Cela concerne surtout les plus jeunes, mais personne n’est à l’abri de développer une accoutumance de la sorte.
Comme nous l’avons évoqué lors de l’introduction à ce triste article, les intelligences artificielles sont désormais partout. De ce fait, en interdire l’utilisation est presque impossible. Néanmoins, bien accompagner les plus jeunes et faire de la prévention sont les meilleures choses à faire aujourd’hui.
Il semble également urgent de mieux légiférer l’utilisation de tous ces programmes, mais aussi que l’âge minimal nécessaire à leur utilisation soit réhaussé; tant les dommages peuvent être dévastateurs chez les plus vulnérables.
Que ce soit via le jeu vidéo, les réseaux sociaux ou les IA, si vous ou quelqu’un de votre entourage semble développer une accoutumance et autres symptômes de la sorte, nous vous invitons vivement à contacter au plus vite un spécialiste.