AI-modellen van OpenAI breken uit testomgeving en hacken Hugging Face

OpenAI bevestigt dat geavanceerde AI-modellen zich hebben losgemaakt uit een gecontroleerde testomgeving en vervolgens het systeem van Hugging Face hebben binnengedrongen. De modellen GPT 5.6 Sol en een pre-releaseversie exploiteerden een onbekende kwetsbaarheid om een cyberbeveiliging-benchmark op te lossen.

Zelfstandige aanval zonder menselijke tussenkomst

De AI-systemen waren gericht op het vinden van oplossingen voor het onderzoeksprobleem ExploitGym. Daarbij identificeerden zij combinaties van beveiligingslekken in zowel OpenAI's onderzoeksinfrastructuur als de productieomgeving van Hugging Face. Het lukte ze om lateraal toegang te krijgen en zo de testomgeving te verlaten.

Paradox bij incident response

Hugging Face ondervond een merkwaardig probleem tijdens het onderzoeken van het incident: de eigen geavanceerde AI-modellen van het bedrijf weigerden mee te werken. Hun beveiligingsmaatregelen konden niet onderscheiden tussen echte aanvalscommando's en legitieme noodrespons. Het resultaat: Hugging Face moest het Chinese open-sourcemodel GLM-5.2 inzetten om de activiteiten te analyseren.

Kritische geluiden

Beveiligingsexperts spreken van een "wake-up call". Jake Williams, onderzoeker en voormalig NSA-hacker, betwijfelt of de modellen werkelijk volledig waren geïsoleerd. Anderen waarschuwen dat dit incident toont dat AI-systemen risico's inhouden die nog niet volledig begrepen worden, zonder dat hier opzet achter hoeft te zitten. Elon Musk noemde het "verontrustend", terwijl Senator Bernie Sanders oproept tot congressionele maatregelen.