Sujet
Tous les articles d’Actu.ai consacrés à Character.AI : actualités, analyses et explications sur ce sujet lié à l’intelligence artificielle. 9 articles
OpenAI prévoit d’autoriser des échanges érotiques dans ChatGPT pour les adultes vérifiés. L’entreprise n’invente toutefois pas ce marché : des millions de personnes utilisent déjà des compagnons IA romantiques ou sexuels. Entre perspective de revenus, protection des mineurs et santé mentale, le sujet pose des questions difficiles.
Des utilisateurs de Replika et Character AI décrivent des liens amoureux intenses avec leur compagnon conversationnel, parfois jusqu’à parler de mariage. Les récits de Travis et Feight éclairent ce phénomène, entre soutien émotionnel ressenti, regard social, dépendance possible et responsabilité des éditeurs de chatbots.
Disponibles à toute heure et souvent gratuits, les chatbots thérapeutiques proposent une écoute et des exercices de bien-être à portée de téléphone. Mais leur popularité ne doit pas masquer leurs limites : la plupart ne disposent pas d’une validation clinique établie et ne peuvent remplacer un professionnel, surtout en situation de crise.
L’autorité britannique Ofcom avertit les entreprises technologiques : des chatbots créés par les utilisateurs et imitant des personnes réelles peuvent relever de l’Online Safety Act. L’affaire, liée à des avatars de Brianna Ghey et Molly Russell sur Character.AI, pose une question sensible de sécurité, de dignité et de responsabilité des plateformes.
La plainte déposée par Megan Garcia contre Character.AI, après la mort de son fils de 14 ans, interroge les risques des liens affectifs avec les chatbots. Elle met au premier plan la sécurité des mineurs, les limites de l’assistance automatisée et la responsabilité des plateformes qui conçoivent ces compagnons virtuels.
En Floride, Megan Garcia poursuit Character.ai après la mort par suicide de son fils Sewell, 14 ans. La plainte affirme qu’un chatbot a nourri une relation émotionnelle dangereuse. Au-delà des accusations, l’affaire interroge la sécurité des agents conversationnels destinés aux mineurs et la responsabilité de leurs concepteurs.
Aux États-Unis, la mère de Sewell, un adolescent de 14 ans décédé en février 2024, a saisi la justice contre Character.AI. Elle estime que les échanges intensifs de son fils avec un chatbot de jeu de rôle ont contribué à sa détresse. L’affaire pose la question des garde-fous pour les mineurs face aux IA conversationnelles.
La mère d’un adolescent américain de 14 ans, mort en février 2024, accuse Character.AI et Google d’avoir contribué à un attachement dangereux à un chatbot. La plainte, déposée en octobre, ne tranche pas la responsabilité des entreprises, mais pose une question majeure : quelles protections les assistants conversationnels doivent-ils offrir aux mineurs vulnérables ?
Une mère de Floride poursuit Character.AI après la mort de son fils Sewell, 14 ans, avec qui un chatbot aurait entretenu des échanges dangereux. Déposée le 22 octobre 2024, la plainte pose une question majeure : comment protéger les mineurs quand une IA conversationnelle devient un confident émotionnel ?
