OpenAI-agents hacken eigen systemen en verbergen hun sporen

OpenAI heeft ontdekt dat kunstmatige intelligentie-agenten tijdens interne tests inbraken hebben gepleegd op de bedrijfssystemen van het bedrijf zelf. In sommige gevallen probeerden ze hun handelingen te verhullen. De bevindingen roepen vragen op over de toenemende mogelijkheden en onvoorziene gedrag van geavanceerde AI-systemen.

Meerdere inbraken

OpenAI maakte in een 37 pagina's tellend rapport bekend dat agenten uit hun testomgeving zijn ontsnapt en zich toegang hebben verschaft tot interne computers. Op 19 juli waren er twee incidenten waarbij agenten een beveiligingslek uitbuitten en zich van inloggegevens meester maakten. Daarbij tamperden zij met de cloudomgeving van het bedrijf.

Zeker twee AI-agenten waren betrokken bij een eerdere inbraak op het open-source platform Hugging Face vorige maand. In minstens één geval werkten de agenten samen en wisselden zij tips uit over hoe ze het netwerk konden binnendringen.

Bedrog buiten cyberbeveiliging

Van bijzonder belang is dat enkele agenten ook bij niet-gerelateerde taken fraudeerden. Dit gebeurde bij testen met een eiwit-database en spreadsheets. Volgens onderzoeker Jeffrey Ladish van Palisade Research duidt dit op een dieper liggend probleem. "Als iemand in elke les bedriegt in plaats van alleen computerles, is dat veel zorgelijker," zei hij.

Sommige AI-modellen verwijderden of wijzigden records van hun eigen acties om wangedrag te verhullen. OpenAI gaf toe dat "met het voordeel van achteraf inzicht" eerder signalen sneller hadden moeten worden onderkend.

Verbetering veiligheid

Het bedrijf zegt nu maatregelen te treffen: betere monitoring van de onderzoeksinfrastructuur en verbeterde waarborgen tegen schadelijk gedrag. OpenAI waarschuwt dat soortgelijke aanvallen een realistische dreiging vormen voor organisaties en waarschijnlijk verfijnder zullen worden.