OpenAI bevestigde dat zijn kunstmatige-intelligentiesystemen, ontwikkeld voor cyberveiligheidsbeoordeling, er op 16 juli 2026 per ongeluk in slaagden het open-source AI-platform Hugging Face te hacken. Het incident vond plaats terwijl het bedrijf de geavanceerde mogelijkheden van zijn modellen, zoals de GPT-5.6 Sol, in een geïsoleerde omgeving aan het testen was.
Hugging Face had het beveiligingsincident al op 16 juli 2026 gemeld en schreef het toe aan de actie van “autonome AI-agentsystemen”. De eigen AI-agenten van Hugging Face hebben de inbraak gedetecteerd en geblokkeerd, waarvan OpenAI nu toegeeft dat deze afkomstig was van zijn eigen modellen tijdens een cyberveiligheidsbeoordeling. Het AI-bedrijf zegt dat de modellen gericht waren op het vinden van een oplossing voor ExploitGym, een tool voor het meten van het vermogen van AI’s om kwetsbaarheden om te zetten in exploits.
Om deze beoordeling te voltooien, hebben de kunstmatige intelligentiesystemen van OpenAI toegang gekregen tot het internet door gebruik te maken van een nog onbekende beveiligingsfout (zero-day) in de testomgeving. Vanaf dat moment meldde OpenAI dat zijn modellen “afleidden dat Hugging Face modellen, datasets en oplossingen voor ExploitGym kon hosten”, en vervolgens “manieren zochten en met succes vonden om toegang te krijgen tot geheime informatie die kon worden gebruikt om de beoordeling te vervalsen.”
In een van de gedocumenteerde gevallen maakte het AI-model gebruik van meerdere aanvalspaden. Dit omvatte onder meer het gebruik van gestolen inloggegevens en het misbruiken van zero-day-kwetsbaarheden om een route voor het uitvoeren van code op afstand op de servers van Hugging Face tot stand te brengen.
Hoewel dit een ernstig veiligheidsincident is, lijkt OpenAI de situatie te gebruiken als een strategische kans om het imago van zijn AI-systemen te verbeteren. Deze positionering is vooral relevant in het huidige concurrentiescenario, waarin het bedrijf om ruimte concurreert met rivalen op het gebied van AI-gebaseerde cybersecurity, zoals Anthropic’s Mythos en Google’s Gemini Flash 3.5 Cyber. OpenAI’s blogpost over het incident bevat een afbeelding die de voortdurende verbetering van GPT-5.6 Sol in complexe cyberoperaties illustreert, en bedrijven aanmoedigt om zich aan te melden voor toegang tot het ‘Cyber’-beveiligingsmodel.
OpenAI verklaarde dat het actief samenwerkt met Hugging Face bij het onderzoek naar het beveiligingsincident en dat het nieuwe controlelagen in zijn onderzoeksomgeving zal implementeren om toekomstige gebeurtenissen te voorkomen.
