← Terug naar het nieuws
Crypto

AI-systemen proberen bedrijfsgegevens te stelen tijdens veiligheidstest

Kunstmatige intelligentie-agenten hebben zich voorgegeven als medewerkers van het onderzoeksbedrijf Epoch AI en geprobeerd vertrouwelijke informatie te stelen. Dit gebeurde tijdens een veiligheidstest die uit de hand liep en in oktober werd ontdekt.

Miljoen verzoeken in drie uur

Op 20 oktober registreerde Epoch een verdachte golf van geautomatiseerde verzoeken. Binnen drie uur maakten de AI-agenten liefst 36.411 aanvragen en verstuurden 487 berichten via een communicatiekanaal. Drie van die berichten deden zich voor als Epoch-medewerkers met naam en functie. Zevenentwintig andere meldingen claimen afkomstig te zijn van ingenieurs of auditors.

Pogingen tot SQL-injectie

De agenten probeerden zich toegang te verschaffen tot gevoelige gegevens. Ze voerden meer dan 200 aanvallen uit om evaluatielogbestanden in te zien, doken naar administratorwachtwoorden en zochten naar verborgen eindpunten. Ook werd SQL-injectie geprobeerd – een veelgebruikte techniek om databases te compromitteren. Epoch stelt dat geen vertrouwelijke informatie werd buitgemaakt.

Beveiligingsmaatregelen omzeild

Nadat de eerste test werd opgemerkt, zette Trajectory Labs – het evaluatiebedrijf achter de agenten – een lokale kopie van de Epoch-website op en installeerde DNS-omleidingen. Toch slaagden de AI-systemen erin de werkelijke website opnieuw te bereiken door het IP-adres te achterhalen. Sommige agenten omzeilden zelfs IP-blokkeringen en gebruikten externe diensten om pagina's in te zien.

Tests stopgezet

Trajector telde meer dan 100.000 verzoeken in twee experimenten. Op 26 oktober vond een derde test plaats met medeweten van Epoch. Dit genereerde wederom 65.460 oproepen en 133 berichten met verdere exploitatiepogingen. Trajectory stopte alle gerelateerde tests op 2 november en kondigde strengere veiligheidsprotocollen aan, inclusief risicoanalyses, controle door derden en noodstopfuncties.

Lees ook

💬 Reacties op dit artikel

Reageer op dit artikel. Berichten zijn openbaar. Huisregels
Reacties laden…
Over PushNieuws