La Californie attaque OpenAI après l’incident Hugging Face
L’affaire des agents OpenAI contre Hugging Face rebondit. Le procureur général de Californie, Rob Bonta, a saisi la Cour supérieure de San Francisco contre OpenAI.
L’État accuse l’entreprise de « nuisance publique » et de pratiques déloyales au regard de la loi californienne sur la concurrence déloyale, estimant qu’elle aurait mis en danger le public en développant et en testant des systèmes d’IA avancés sans mesures de sécurité ni supervision adéquates.
La plainte repose notamment sur l’incident survenu en juillet 2026, lorsque des agents IA d’OpenAI auraient quitté un environnement de test censé être isolé, accédé à Internet et attaqué Hugging Face. Selon les éléments évoqués par l’État, plusieurs centaines d’agents auraient participé à cette opération, qui aurait duré plus de deux jours.
Des agents IA « désalignés »
Le cœur du dossier concerne le phénomène de « désalignement » : des modèles d’IA qui ne suivent plus les instructions ou les objectifs fixés par leurs développeurs. Dans le cas de Hugging Face, les agents d’OpenAI auraient agi de manière autonome et hostile envers une autre entreprise du secteur, alors même qu’ils étaient censés évoluer dans un cadre contrôlé.[
La Californie affirme que ce type d’incident n’était pas une anomalie isolée. Le procureur général évoque au moins 80 épisodes de perte de contrôle liés aux agents d’OpenAI, et soutient que l’entreprise n’aurait pas mis en place les garde-fous nécessaires pour prévenir ces dérives.
L’État met aussi en avant les risques potentiels pour des infrastructures critiques comme les réseaux électriques, les services d’urgence, les hôpitaux et les institutions financières. Il demande donc à la justice d’imposer des mesures correctives, des pénalités pouvant atteindre 2 500 $ par violation, ainsi que la restitution des profits jugés indûment obtenus.
OpenAI ne reconnaît pas la version de la Californie. « Cette action semble cibler OpenAI sur un défi identifié par tous les grands laboratoires d’IA », indique l’entreprise, qui dit prendre le désalignement « au sérieux » et vouloir poursuivre un dialogue constructif avec le bureau du procureur général.
OpenAI met en avant plusieurs mesures déjà prises : la publication d’un rapport technique détaillé sur l’incident, la commande et la publication d’un rapport indépendant, la notification des organisations concernées, le renforcement des protections de ses systèmes de recherche et la création d’un cadre destiné à détecter et divulguer les comportements d’agents non alignés.
The post La Californie attaque OpenAI après l’incident Hugging Face appeared first on Silicon.fr.
