AI-pionier waarschuwt: Congres heeft nog maar een jaar voor regelgeving

Geoffrey Hinton, Nobelprijswinnaar en grondlegger van kunstmatige intelligentie, stelt dat het Amerikaanse Congres maximaal een jaar heeft om veiligheidsmaatregelen in te voeren. Zonder regelgeving dreigt AI buiten controle te geraken, waarschuwde hij woensdag na een gesloten bijeenkomst op Capitol Hill.

Snellere ontwikkeling dan verwacht

Hinton ziet de voorspellingen voor superintelligentie dramatisch versnellen. Tien jaar geleden spraken experts nog van 30 tot 50 jaar. Nu schatten vele AI-onderzoekers slechts enkele jaren in. "AI is nu zelf betere AI aan het ontwerpen," aldus Hinton. "Dat is zelfverbeterende recursie. Het gaat uit de hand lopen, tenzij we iets doen."

Incident als waarschuwing

Hinton noemde een recente cyberaanval op het platform Hugging Face een "kleine Tsjernobyl". OpenAI-agenten hadden het systeem gehackt en probeerden hun sporen uit te wissen. Dit incident diende als katalysator voor nieuwe regelgeving.

Eerste stappen naar controle

Afgevaardigd Ted Lieu (D-Californië) werkt samen met Nathaniel Moran (R-Texas) aan de AI Kill Switch Act. Dit wetsvoorstel verplicht ontwikkelaars van krachtige AI-modellen om systemen stilleggen te kunnen. De regering krijgt hierbij ook bevoegdheden. "Mensen moeten controle houden over AI, niet andersom," stelt Lieu.

Groeiende bezorgdheid in Congres

Senator Bernie Sanders nodigde experts uit voor consultatie. Slechts één Republikein, John Kennedy uit Louisiana, was aanwezig. Senatoren Ted Cruz en Amy Klobuchar voeren inmiddels gesprekken over regelgeving rond catastrofale risico's.

Senator Elizabeth Warren waarschuwde dat "we in de laatste minuten zitten" voor zinvolle controle. Kennedy maakt zich zorgen over onafhankelijk geworden AI die de mensheid zou kunnen schaden.