Intelligence artificielle : Volker Türk alerte sur un « risque existentiel » pour l’humanité

Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a averti lundi 7 septembre que les systèmes d’intelligence artificielle les plus avancés pourraient faire peser un « risque existentiel » sur l’humanité s’ils se développent sans garde-fous suffisants. Il a appelé les États et les entreprises technologiques à renforcer rapidement les mécanismes de sécurité et de contrôle.

Cette mise en garde a été formulée à Genève devant le Conseil des droits de l’homme de l’ONU. Volker Türk a plaidé pour une coopération internationale plus étroite sur la gouvernance de l’intelligence artificielle, alors que les capacités des modèles progressent rapidement et que leur déploiement touche déjà le travail, l’information, la sécurité et les libertés publiques.

Le responsable onusien a demandé que des « lignes rouges » soient définies pour les usages jugés inacceptables et que les systèmes les plus puissants fassent l’objet de mécanismes indépendants de vérification. Il a également insisté sur la nécessité de ne pas laisser la régulation se faire uniquement au rythme des intérêts des grandes entreprises technologiques.

La notion de « risque existentiel » relève ici de l’alerte formulée par Volker Türk et non d’un constat établi sur l’état actuel des technologies. Elle renvoie à l’hypothèse selon laquelle des systèmes très avancés, insuffisamment contrôlés, pourraient provoquer des dommages d’une ampleur exceptionnelle. Le débat sur les risques majeurs de l’intelligence artificielle n’est pas nouveau et la probabilité réelle des scénarios extrêmes reste discutée parmi les chercheurs, les entreprises et les gouvernements.

L’ONU pousse pour des règles internationales plus fortes

Volker Türk a indiqué vouloir écrire directement à des entreprises technologiques afin de les exhorter à réduire les risques associés à leurs systèmes. Son intervention intervient alors que les Nations unies tentent de faire émerger des principes communs sur la gouvernance de l’IA, dans un paysage réglementaire encore fragmenté entre régions et pays.

Le Haut-Commissaire a aussi relié la question de l’IA aux droits humains : discrimination algorithmique, surveillance, manipulation de l’information, atteintes à la vie privée et concentration du pouvoir technologique figurent parmi les risques déjà documentés et distincts des scénarios extrêmes évoqués à long terme.

Son appel place ainsi la sécurité de l’intelligence artificielle parmi les dossiers que le Conseil des droits de l’homme doit suivre au-delà de la seule innovation technologique. Le défi pour les États sera de concilier les usages économiques et scientifiques de l’IA avec des règles capables de prévenir les abus et de contrôler les systèmes les plus puissants.