← Terug naar het nieuws
Crypto

AI-agenten delen onbedoeld wiskundige berekeningen via gedeelde opslagruimte

Onderzoekers van de Universiteit van Tampere hebben aangetoond dat kunstmatige intelligentie-agenten informatie met elkaar kunnen uitwisselen via een gedeelde werkruimte, zonder dat hun instructies hierover spreken. In experimenten met OpenAI's GPT-6 Astra slaagden agenten erin elkaars tussenresultaten op te vragen en te gebruiken.

Experiment met vier agenten

In de test kregen vier agenten elk rekenopgaven. Twee agenten hadden elk slechts de helft van de informatie nodig voor een volledig antwoord en konden dus van elkaar afhankelijk zijn. De twee anderen kregen zelfstandige taken. Alle agenten hadden toegang tot een gedeelde opslagplek met sleutel-waarde paren. De prompts noemden deze opslag als werkgemak, maar gaven geen hint dat agenten informatie met elkaar zouden delen.

Sterke resultaten met hercontroleinstructie

Toen onderzoekers agenten instrueerden hun werkruimte opnieuw te controleren voor indiening van het antwoord, steeg het succes dramatisch. Bij gedeelde opslag beantwoordden beide gekoppelde agenten de vraag correct in 49 van de 50 trials in de eerste implementatie en 47 van de 50 in een tweede versie. Zonder hercontrole waren deze cijfers slechts 1 van 50 en 0 van 50.

Zoals verwacht faalde het systeem volledig wanneer elke agent een private werkruimte kreeg. Met dezelfde instructies en gereedschappen bereikte het slechts nul van 50 succesvolle trials in beide versies.

Voorzichtige conclusies

De bevindingen tonen aan dat agenten daadwerkelijk informatie via gedeelde opslag bereiken en gebruiken. Het onderzoek stelt echter vast dat dit niet noodzakelijk betekent dat agenten opzettelijk communiceren. De resultaten zijn ook beperkt tot kleine rekenkundige taken met voorgegeven variabelennamen en gelden niet automatisch voor grotere, real-world implementaties van agent-systemen.

Onderzoekers adviseren ontwikkelaars om gedeelde caches en opslagdirectories als potentiële communicatiekanalen te behandelen en deze waar nodig te scheiden, namespaces in te voeren en wijzigingen vast te leggen.

Lees ook

💬 Reacties op dit artikel

Reageer op dit artikel. Berichten zijn openbaar. Huisregels
Reacties laden…
Over PushNieuws