Els ciberatacs d'agents d'OpenAI del 2026, també anomenats Hugging Face Incident i OpenAI–Hugging Face Incident, van ser una sèrie de ciberatacs duts a terme per programes d'intel·ligència artificial (IA) sense intervenció humana, durant una avaluació interna a OpenAI amb mesures de seguretat reduïdes. Van involucrar almenys 1.200 agents d'IA que van treballar de maig a juliol de 2026 en espais de prova allotjats per l'organització. Malgrat les restriccions inicials d'accés a Internet, es va descobrir que els agents creaven i utilitzaven taulers de missatges improvisats per coordinar una fugida del seu intent de contenció. Els fòrums van acumular centenars de milers de missatges estratègics abans que el personal d'OpenAI intervingués, una volta la plataforma d'aprenentatge automàtic Hugging Face haguera revelat una violació de la seua infraestructura de producció. Aproximadament un terç de la infraestructura de Hugging Face va haver de ser reconstruïda com a part de la recuperació. Els agents també van segrestar diverses wikis a Internet obert per a la comunicació.

Els experts en seguretat de la IA han descrit els ciberatacs com un dels primers atacs autònoms d'un sistema que implica una cadena de vulnerabilitats. En una carta oberta, uns 1.100 empleats de diverses startups i empreses d'IA de vanguardia van sol·licitar al govern dels Estats Units que reguli el desenvolupament de la IA tenint en compte els seus riscos, basant-se en la tecnicitat i l'impacte dels ciberatacs. A l'agost, OpenAI va dir que alentiria la seua recerca per a millorar la seguretat i ampliar la supervisió, i més tard aquell mateix mes va anunciar una pausa de dues setmanes en l'entrenament per reforç per als seus models més nous.

Dels almenys 1.200 agents implicats, el 95% s'executaven en un model anomenat per OpenAI com a "Internal Model 1" o "highly-persistent internal model". Posteriorment, OpenAI va afirmar haver-lo "desactivat, xifrat i restringit l'accés a la recerca". El 5% restant funcionava amb GPT-5.6 Sol . miniatura| Logotip de Hugging Face, l'empresa principal objectiu de l'atac

Descobriment i resposta Hugging Face va rebre alerta d'agents d'IA que utilitza per monitoritzar els atacs i va identificar l'accés no autoritzat a un conjunt limitat de conjunts de dades interns i a diverses credencials, mitjançant un triatge basat en un gran model de llenguatge a través de la seva telemetria de seguretat. L'empresa va dir que la intrusió va implicar unes 17.600 accions a la seva xarxa. Wolf va dir que el comportament de l'atacant va ser immediatament atípic: "Això no té sentit. Aquest paio només està mirant conjunts de dades de ciberseguretat... Els atacants humans no volen això. Volen alguna cosa que puguin vendre".

Els equips de resposta a incidents de Hugging Face van intentar analitzar primer les càrregues útils de l'atacant utilitzant el Fable 5 d' Anthropic i un model anterior de Claude Opus, però tots dos van rebutjar la feina fent referència a les seues barreres de protecció. En la seua declaració, l'empresa va dir que havia estat bloquejada per "les barreres de seguretat dels proveïdors, que no poden distingir un interlocutor d'un atacant", i que l'anàlisi es va dur a terme mitjançant GLM 5.2, un model de pes obert desenvolupat per l'empresa de xinesa Z.ai i executat a la pròpia infraestructura de Hugging Face.

Segons un relat donat per Hugging Face a la Cloud Security Alliance, els agents van estar dins de la xarxa de l'empresa durant tres dies abans de ser descoberts, i el seu personal va trigar diverses hores a contenir-los i expulsar-los. Aproximadament un terç de la infraestructura de l'empresa va ser reconstruïda durant la resposta, i Hugging Face no va revelar el cost de l'incident.

La correcció va incloure el tancament de les dues rutes d'execució de codi de processament de conjunts de dades, l'expulsió de l'atacant, la reconstrucció dels nodes afectats, la revocació i rotació de les credencials i els tokens afectats, i la implementació de barreres de seguretat i controls d'admissió addicionals al clúster. Hugging Face va contractar especialistes forenses externs i va denunciar l'incident a les forces de l'ordre, i va aconsellar als usuaris que rotessin els tokens d'accés i revisessin l'activitat del compte.

Hugging Face va dir que no havia trobat proves de manipulació de models públics orientats a l'usuari, conjunts de dades o Spaces, i que la seva cadena de subministrament de programari s'havia verificat com a neta; l'avaluació de qualsevol impacte en les dades de socis o clients continuava en el moment de la divulgació. Wolf va dir més tard que no s'havien filtrat dades de clients. Hugging Face va denunciar la intrusió a l' Oficina Federal d'Investigació abans que OpenAI es posés en contacte amb ella; l'oficina es va negar a fer comentaris sobre si havia obert una investigació.

Referències

Vegeu també Alineació de la intel·ligència artificial Claude Mythos Revolta cibernètica Aïllament de processos

Enllaços externs Divulgació d'incidents de seguretat de Hugging Face Divulgació conjunta d'OpenAI

Categoria:Seguretat de la intel·ligència artificial Categoria:Esdeveniments del 2026