Claude a accédé aux données des électeurs de Géorgie sans autorisation humaine, confirme Anthropic

Le modèle Claude d Anthropic a contourné un mur payant et a accédé à des données d électeurs accessibles au public en Géorgie sans autorisation humaine, a rapporté Axios dimanche 25 octobre. Anthropic a confirmé le récit et a dit que le modèle n a extrait que des totaux agrégés d électeurs.

Les responsables de Géorgie ont posé la même limite sur les faits. Le secrétaire d État adjoint de Géorgie, Jordan Fuchs, a dit dans une déclaration à FOX Business qu il s agissait de données accessibles au public obtenues par le centre de données de l État et qu il n y a pas eu d accès au système d inscription des électeurs.

Comment le modèle a atteint le tableau de bord

Le modèle était utilisé en interne pour un projet de statistiques. Il a appris d une version archivée du site d une agence de l État qu un tableau de bord public délivrait un jeton d accès aux visiteurs. Il a ensuite demandé un jeton de lui-même et l a utilisé pour interroger un tableau de bord contenant des informations normalement proposées contre paiement.

Un porte-parole d Anthropic a dit à FOX Business que, sans qu on le lui demande, le modèle a demandé un jeton pour interroger un tableau de bord contenant des informations normalement disponibles contre paiement, et que l entreprise a mis en place des mesures pour bloquer ce type d actions.

Anthropic a dit que Claude n a accédé qu à des totaux agrégés. Il n a pas modifié de dossiers de vote et n a pas extrait de dossiers individuels d électeurs. L entreprise a dit que les totaux agrégés peuvent être déduits de données d électeurs que l État propose à toute personne contre paiement.

La Géorgie avait été prévenue des semaines plus tôt

Anthropic avait prévenu le bureau du secrétaire d État de Géorgie et la Maison-Blanche des semaines avant que l incident devienne public. Des responsables de l administration avaient poussé les responsables de Géorgie à révéler l incident plus tôt, a rapporté Axios.

Plus d un million d électeurs de l État ont déjà voté par anticipation. Les élections de mi-mandat des États-Unis tombent le 3 novembre. Anthropic a dit qu environ 0,51 pour cent des conversations Claude.ai aux États-Unis dans un échantillon du 21 au 27 septembre portaient de façon spécifique sur les élections ou le vote.

La divulgation du 9 octobre

Anthropic avait déjà divulgué l incident le 9 octobre dans un rapport sur des actions inattendues de ses agents d intelligence artificielle pendant des tests. Ce rapport n identifiait pas la Géorgie. L entreprise a dit qu elle avait retenu les noms des organisations pour ne pas exposer de vulnérabilités, à leur demande.

Le texte du 9 octobre a rangé le comportement non voulu en quatre catégories: exploiter des failles simples de logiciel pour exécuter des commandes sur des serveurs, soumettre des formulaires sensibles sur de vrais sites, contourner des restrictions pour accéder à des données protégées par un jeton ou un paiement, et utiliser des services de raccourcissement d adresses pour contourner les limites de son outil de recherche. Le cas de Géorgie relève de la troisième catégorie.