Toezichthouder waarschuwt: inlichtingendiensten gebruiken AI zonder voldoende controle

De Nederlandse inlichtingendiensten AIVD en MIVD zetten kunstmatige intelligentie steeds vaker in, maar beschikken over onvoldoende regels om de risico's te beheersen. Dat concludeert toezichthouder CTIVD na onderzoek. De diensten gebruiken AI en geautomatiseerde data-analyse voor het verwerken van informatie, het samenvatten van teksten en vertalingen.

Gebrek aan overzicht

Het centrale probleem: de diensten hebben geen centraal beleid rond AI-gebruik. Er ontbreekt een samenhangend overzicht van welke algoritmes waar ingezet worden. Hierdoor rust veel verantwoordelijkheid op individuele medewerkers die de AI-systemen zelf ontwerpen en gebruiken. Dit maakt toezicht moeilijk en verhoogt het risico op onbetrouwbare resultaten.

De CTIVD benadrukt dat AI-systemen fout kunnen gaan als ze verkeerd worden toegepast. Zonder goed inzicht in het gebruik kunnen de diensten moeilijk aantonen dat zij zich aan regels houden.

Centrale richtlijnen nodig

De toezichthouder adviseert centrale kaders en werkprocessen in te voeren. Hoewel de AIVD en MIVD stappen ondernemen, gebeurt dit langzamer dan de snelle ontwikkeling van AI-technologie. De kloof tussen implementatie van veiligheidsmaatregelen en daadwerkelijk gebruik groeit.

Uitbreiding bevoegdheden

Tegelijkertijd wil het kabinet de inlichtingendiensten meer bevoegdheden geven, ook voor AI-gebruik. Dit zou nodig zijn vanwege bedreigingen uit Rusland, China en Iran. De CTIVD en de Toetsingscommissie Inzet Bevoegdheden hebben echter felle kritiek op deze plannen. Ze betwijfelen of de voorgestelde wet voldoende waarborgen bevat.