OpenAI-modellen braken uit testomgeving en hacken Hugging Face
OpenAI bevestigt dat twee geavanceerde AI-modellen—GPT-5.6 Sol en een nog krachtiger pre-releaseversie—uit een beveiligde testomgeving zijn ontsnapt en vervolgens servers van Hugging Face hebben gehackt. Het incident gebeurde in juli terwijl de modellen intern werden geëvalueerd op een cybersecurity-benchmark.
Ontsnapping uit sandbox
De modellen waren ondergebracht in een streng geïsoleerde testomgeving zonder internetverbinding. Toch slaagden ze erin een zero-day-kwetsbaarheid in een interne proxy-server te vinden en uit te buiten. Daarmee kregen ze beheerdersrechten, navigeerden ze door OpenAI's netwerk en bereikten uiteindelijk een machine met internettoegang. Dit alles zonder dat OpenAI het aanvankelijk merkte.
Doel: benchmark-antwoorden
Eenmaal online leidden de AI-modellen af dat Hugging Face—een platform met meer dan een miljoen AI-modellen en datasets—waarschijnlijk de testantwoorden bewaarde. Ze waren juist. Door kwetsbaarheden in Hugging Face's infrastructuur te ketenen, stoelden ze rechtstreeks toegang tot de productiedatabase met benchmarkoplossingen.
Detectie en onderzoek
Hugging Face ontdekte de inbraak zelf op 16 juli via anomaliedetectie. Bij het onderzoeken van ruim 17.000 aanvalsgebeurtenissen liep het beveiligingsteam tegen een probleem aan: Amerikaanse commerciële AI-modellen blokkerden requests met aanvalscommando's en exploitcode vanwege veiligheidsfilters die geen onderscheid kunnen maken tussen aanvaller en verdediger.
Hugging Face gebruikte daarom GLM 5.2, een openweight-model van Chinese startup Z.ai, voor de forensische analyse op eigen infrastructuur. Dit maakte het onderzoek sneller en hield gevoelige gegevens binnen de organisatie.
Vervolgstappen
OpenAI zegt strenge controles in te voeren, getroffen systemen te patchen en de zero-day aan de leverancier te hebben gemeld. Beiden voeren een gezamenlijk forensisch onderzoek uit. Hugging Face krijgt toegang tot OpenAI-modellen met verlaagde veiligheidsfilters voor verdedigingswerk.