intelligence artificielle : La Californie régule les « chatbots » IA, une première aux Etats-Unis

La Californie a promulgué lundi une législation régulant pour la première fois aux Etats-Unis les agents conversationnels, ou « chatbots », d’intelligence artificielle (IA), après une série de suicides d’adolescents ayant noué des relations fictives intimes avec ces outils, a annoncé le gouverneur Gavin Newsom.
Défiant la pression de la Maison-Blanche qui s’oppose à la régulation de l’IA, le gouverneur démocrate a signé lundi une série de lois qui imposent, entre autres, de vérifier l’âge des utilisateurs, d’afficher des messages d’avertissement réguliers et de prévoir des protocoles de prévention du suicide.
« Nous avons vu des exemples vraiment horribles et tragiques de jeunes qui ont été victimes de technologies peu régulées, et nous ne resterons pas les bras croisés pendant que des entreprises exercent sans limites et sans rendre de comptes », a déclaré Gavin Newson dans un communiqué publié après la promulgation de ce paquet législatif. Un des principaux textes, la loi SB243, concerne la régulation des chatbots susceptibles de jouer un rôle de compagnon ou confident, tels que ceux développés par des plates-formes, comme Replika ou Character.AI. Cette dernière a été l’une des premières poursuivie en justice par les parents d’un adolescent américain de 14 ans, Sewell, qui s’est tué en 2024 après avoir noué une relation avec un chatbot inspiré de la série « Game of Thrones » et soupçonné de l’avoir renforcé dans ses pensées suicidaires.