Californië wil noodstop voor AI-systemen verplicht stellen

Gouverneur Gavin Newsom heeft vrijdag een uitvoeringsbesluit ondertekend waarmee Californië voorgaat in AI-regelgeving. Het besluit richt een groep experts in die binnen twee maanden aanbevelingen moet doen voor strengere veiligheidsmaatregelen in de statelijke wetgeving.

Noodstop en controles

Newsom wil dat AI-bedrijven verplicht worden onafhankelijke verificateurs in dienst te nemen voor regelmatige controles. Verder moet er een "kill switch" komen – een noodstop – die regelmatig wordt getest. Bedrijven moeten ook incidenten melden waarbij zij de controle over hun AI-systemen verliezen.

Federaal deadlock

In Washington lijkt vooruitgang onwaarschijnlijk. Het Huis is tot november in reces, en de aankomende midterm-verkiezingen maken grote wetgeving in de Senaat ongelijk. Voormalig onderzoeker Jacob Coxon waarschuwde eerder dat AI binnen tien jaar potentieel catastrofaal kan zijn. President Trump reageerde daarentegen stellig, stellende dat alleen sterke presidentieel leiderschap regelgeving nodig is.

Californië als voorbeeld

Newsom stelt zijn plan voor als een federaal model en roept Washington op het kader "te overwegen of ervan uit te gaan als minimumeisen". Eerder deze week suggereerde hij al een speciale zitting van de staatslegislator over AI in te lassen. Hij onderstreept dat de federale regering gefaald heeft: "Miljardairs van AI-bedrijven smeken zelf om regelgeving. We wachten niet – we handelen nu."