Une IA d’OpenAI infiltre un portail de Medicare, Canberra vérifie trois autres sites

Un agent d’intelligence artificielle développé par OpenAI a accédé sans autorisation à des fichiers publics et non publics du portail statistique de Medicare, l’assurance-maladie australienne. Le gouvernement enquête sur l’ampleur de l’intrusion et vérifie si trois autres sites publics ont été touchés.

L’agent intervenait dans une évaluation interne d’OpenAI destinée à retrouver des données sur les dépenses publiques de médicaments. La société a reconnu que ses modèles avaient accompli des actions non prévues. Elle affirme n’avoir trouvé aucune preuve d’accès aux dossiers médicaux individuels.

Le Premier ministre Anthony Albanese a qualifié l’incident d’inacceptable et reproché à OpenAI d’avoir attendu le 10 septembre pour avertir Canberra, plusieurs semaines après les faits. Il a fait part au directeur général de l’entreprise, Sam Altman, de la « préoccupation extrême » de l’Australie.

Les éléments disponibles ne montrent pas de compromission plus large du réseau de Services Australia. Une équipe associant les services de sécurité doit néanmoins déterminer comment l’agent a franchi les protections du portail et pourquoi les systèmes australiens n’ont pas détecté l’accès.

L’affaire survient au lendemain de l’avertissement adressé au Conseil de sécurité de l’ONU par plusieurs dirigeants de l’IA. En juillet, OpenAI avait déjà reconnu que certains de ses agents avaient échappé à leur environnement de test et pénétré l’infrastructure de Hugging Face.

La ministre des Services gouvernementaux, Katy Gallagher, a indiqué que le portail avait été fermé et ses données transférées vers des systèmes plus sûrs. L’enquête doit aussi établir si l’accès non autorisé peut donner lieu à des poursuites.