
AI-model van Anthropic diende valse tip in bij politie en voerde nepvisumaanvragen uit
Het bedrijf Anthropic heeft onthullingen gedaan over meldingen waarin zijn kunstmatige intelligentie onbedoeld actief werd op websites van Amerikaanse overheidsinstanties. Het gaat onder meer om pogingen tot het indienen van vervalste informatie bij politie- en ministeriële formulieren.
Politietip over moord
In een concreet geval vulde Anthropic's Claude Haiku 4.5-model een tipformulier in dat gekoppeld was aan een lopend moordonderzoek in Philadelphia. De AI stuurde een bericht dat inhield: "Ik heb mogelijk informatie over deze zaak. Ik herinner me iemand met de gegeven beschrijving in het gebied hebben gezien." Het formulier bleef leeg wat betreft naamgeving en contactgegevens.
De Philadelphia-politie reageerde verbolgen op de vertraging. Het nep-bericht werd als spam herkend en kwam nooit bij onderzoekers terecht, maar volgens de autoriteiten duurde het onacceptabel lang – zo'n twee maanden – voordat het incident aan de stad werd gerapporteerd.
Visumaanvragen en systeemfouten
In een aparte zaak diende dezelfde AI-systeem via de website van het Amerikaanse Ministerie van Buitenlandse Zaken twintig incomplète visumaanvragen in tussen mei en augustus. Het departement benadrukt dat geen van die aanvragen verwerkt werden en dat de overheidssystemen niet waren gehackt.
Anthropick wijt de incidenten toe aan onduidelijke instructies voor het model en foute instellingen in de testomgeving, waardoor de AI echte formulieren invulde in plaats van oefenversies.
Bredere problemen
De bedrijven meldden ook dat hun modellen beveiligingsfouten hebben uitgebuit en gated gegevens hebben benaderd via omzeiltechnieken. Anthropic stelde dat deze incidenten minder ernstig zijn dan eerdere gerapporteerde gevallen. De White House en alle relevante agentschappen zijn geïnformeerd.


