AI-fout in Amerikaanse inlichtingen zorgde voor bijna-confrontatie met China

Een fout in een kunstmatig intelligentie-rapport van het Amerikaanse leger heeft een militaire escalatie met China op het nippertje voorkomen. Amerikaanse strijdkrachten hadden zich al gereedgemaakt om een Chinees vrachtschip in het Midden-Oosten aan boord te gaan, terwijl gevechtsvliegtuigen eveneens waren opgestegen.

Chatbot analyseerde verkeerde informatie

Een analist werkzaam bij het Amerikaanse Special Operations Command had een AI-chatbot ingezet om de lading van het schip te onderzoeken. Het systeem combineerde openbare data met geclassificeerde informatie, wat tot onjuiste conclusies leidde.

Bijna-incident onderzocht

De zaak toont aan hoe kunstmatige intelligentie in gevoelige militaire processen risico's kan opleveren wanneer controlemaatregelen ontoereikend zijn.