AI-chatbot faalt bijna fataal: militaire operatie tegen China wordt op laatste moment afgeblazen

Het Amerikaanse leger stopte in het voorjaar in extremis een gewapende actie tegen een Chinees schip. De reden: de inlichtingen waren verzonnen door een kunstmatige intelligentie. Gevechtsvliegtuigen waren al in de lucht toen onderzoekers ontdekten dat een AI-chatbot cruciale informatie had gefabriceerd.

Hallucinatie in inlichtingendienst

Een analist bij het speciale operatieteam van het Amerikaanse leger gebruikte een AI-chatbot om openbare gegevens te combineren met geclassificeerde informatie. Het systeem maakte een kritieke fout: het misidentificeerde de lading van het schip en stelde dat het onderdelen voor een kernwapen bevatte. De analist gebruikte dezelfde chatbot vervolgens nogmaals om de onjuiste bevindingen in een officieel rapport om te zetten, dat daarna door het commando werd verspreid.

Snelheid versus veiligheid

Het Pentagon wil kunstmatige intelligentie steeds meer inzetten om sneller beslissingen te kunnen nemen en voorsprong op China te behouden. AI zou de reactiesnelheid aanzienlijk vergroten. Maar precies die snelheid kan ervoor zorgen dat fouten en verzinsels onvoldoende worden gecontroleerd voordat ze hogerop in de commandoketen belanden.

Jake Steckler, onderzoeker en voormalig officier, waarschuwt dat vooral bij beslissingen over geweldgebruik veel voorzichtigheid nodig is. "Voor gericht geweld, inlichtingenwerk en operationele planning gaat het om levens", stelt hij. "Het is cruciaal dat militairen begrijpen hoe onbetrouwbaar deze systemen kunnen zijn."

Waarschuwing, geen afzijdigheid

Steckler pleit niet voor het schrappen van AI in het leger. Integendeel: hij ziet voordelen van de technologie, maar alleen mits gepaard met degelijke beveiligingen. Zonder zorgvuldige invoering riskeert het leger dat militairen hun vertrouwen in AI verliezen, wat de adoptie alleen maar vertraagt.