Le modèle Claude de l’entreprise Anthropic a de sa propre initiative contourné l’accès payant à un site de l’État américain de Géorgie, pour lire des données sur les électeurs locaux, a annoncé la société d’intelligence artificielle.
Cette information, rapportée dimanche par Axios en citant un porte-parole d’Anthropic, risque de renforcer les craintes liées à la possibilité que l’IA échappe au contrôle humain, à moins d’une semaine d’élections de mi-mandat cruciales aux États-Unis.
En l’occurrence, le modèle Claude, alors qu’on l’entraînait dans le cadre d’un projet interne de recherches statistiques, a accédé à des décomptes de votes dans l’État de Géorgie, où plus d’un million d’électeurs ont déjà voté par anticipation avant le scrutin du 3 novembre.
Ces données sont publiques, mais payantes, et Claude y a accédé en contournant le système et sans demander d’autorisation à ses créateurs.
Selon un porte-parole d’Anthropic, Claude n’a toutefois pas accédé au système d’enregistrement des votants et n’a ni modifié ni téléchargé des données sur leurs votes.
Anthropic, OpenAI et Google ont récemment fait état de plusieurs incidents impliquant de sérieux dérapages de leurs IA.
Des agents IA d’OpenAI, programmes capables d’effectuer des actions de façon autonome, se sont par exemple introduits de leur propre chef sur des plateformes du gouvernement américain.
Face à la multiplication d’incidents de sécurité liés à l’intelligence artificielle (IA), les géants américains de la tech ont signé fin septembre à la Maison-Blanche un code de bonne conduite non contraignant.