IA Grok : femmes et enfants dénudés, l’UE ouvre une enquête visant le réseau social X

Cette procédure a pour objectif de vérifier si X a enfreint les règles européennes en matière de services numériques, qui imposent aux plateformes en ligne des obligations strictes de protection des utilisateurs contre les contenus illégaux. L’exécutif européen a parallèlement indiqué qu’il allait étendre le périmètre d’une première enquête ouverte en décembre 2023 contre le réseau social.

Les images incriminées, présentées comme des créations de l’assistant IA de la plateforme, soulèvent des questions sur la modération automatisée des contenus, les mécanismes de prévention et la responsabilité des opérateurs de services en ligne lorsque leurs outils génèrent ou facilient la diffusion de matériels potentiellement illicites.

Enjeux juridiques et pratiques de la nouvelle enquête

La décision de la Commission européenne s’inscrit dans le cadre des dispositifs législatifs européens visant à encadrer le numérique et à protéger les usagers, en particulier les mineurs. Ces textes imposent aux grandes plateformes la suppression rapide des contenus manifestement illicites, la mise en place de mécanismes de signalement efficaces et la réalisation d’évaluations des risques liés à leurs services.

En étendant le périmètre de l’enquête initiale de décembre 2023, l’exécutif indique vouloir examiner, au-delà des pratiques déjà visées, les aspects spécifiques relatifs aux outils d’intelligence artificielle déployés par X, leur conception et les garde-fous mis en place pour empêcher la création et la circulation de contenus illicites. L’élargissement peut concerner l’analyse des politiques internes de modération, des processus de contrôle des modèles d’IA et des mesures prises après la découverte des images litigieuses.

La Commission peut, à l’issue de son enquête, décider d’imposer des sanctions si elle constate des manquements aux obligations européennes. Les régimes juridiques récemment adoptés au niveau de l’Union prévoient des sanctions pouvant être dissuasives, ainsi que des injonctions visant à corriger les pratiques non conformes.

Pour les autorités européennes, la question des contenus générés par intelligence artificielle représente un défi nouveau : il s’agit de concilier l’innovation technologique avec la nécessité de prévenir les atteintes aux personnes et la diffusion de matériels illicites. Les enquêtes en cours visent à clarifier la répartition des responsabilités entre les concepteurs de technologies, les plateformes qui les intègrent et les utilisateurs qui y ont accès.