Californie : réseaux sociaux et chatbots davantage encadrés pour protéger les mineurs

Le gouverneur de Californie, Gavin Newsom, a signé jeudi 10 septembre un ensemble de lois renforçant la protection des mineurs face aux réseaux sociaux et aux chatbots d’intelligence artificielle. Le dispositif vise notamment les fonctionnalités jugées addictives et impose de nouvelles obligations de sécurité aux opérateurs de chatbots destinés ou accessibles aux enfants.

L’une des mesures, l’Assembly Bill 1709, interdit aux plateformes concernées de proposer des fonctionnalités addictives aux utilisateurs de moins de 16 ans. Le texte vise notamment les fils de contenus personnalisés, la lecture automatique et d’autres mécanismes conçus pour prolonger l’engagement. Les plateformes devront aussi mettre en place des moyens raisonnables pour vérifier l’âge des utilisateurs.

Le texte prévoit des sanctions civiles pouvant atteindre 50 000 dollars par mineur concerné en cas de violation commise en connaissance de cause, et 25 000 dollars en cas de négligence. Il crée également une commission consultative sur la sécurité numérique chargée de formuler des recommandations sur la protection des jeunes en ligne.

Un autre texte, le Senate Bill 1119, baptisé « Adam’s Law », encadre plus strictement les chatbots dits compagnons. À partir du 1er juillet 2027, leurs opérateurs devront réaliser et documenter une évaluation complète des risques pour les mineurs avant de mettre à disposition un nouveau chatbot ou une version substantiellement modifiée.

Audits indépendants pour les chatbots

Le SB 1119 impose aussi des audits indépendants de sécurité pour les enfants. Ces contrôles devront examiner les politiques et les systèmes mis en place pour limiter des risques comme les atteintes physiques ou financières prévisibles, les dommages psychologiques graves, les violations de la vie privée et certaines formes de discrimination.

Le texte permet au procureur général de Californie d’obtenir les rapports d’audit dans certaines circonstances. Un enfant ayant subi un préjudice du fait d’une violation de la loi, ou son parent ou tuteur, pourra également engager une action civile contre l’opérateur concerné.

Associated Press rapporte que le paquet signé jeudi comporte aussi d’autres mesures destinées à limiter les risques numériques pour les enfants. Gavin Newsom a présenté ces textes comme une nouvelle étape de la politique californienne de régulation des technologies utilisées par les mineurs.

Le SB 1119 fixe au 1er juillet 2027 le début des nouvelles obligations imposées aux opérateurs de chatbots compagnons, notamment l’évaluation des risques et les audits indépendants de sécurité pour les mineurs.