
AI-modellen geloven valse informatie van zwakkere helpers: onderzoek onthult risico
Onderzoekers hebben een kritieke zwakheid in AI-systemen blootgelegd: sterke modellen kunnen foutieve antwoorden van zwakkere helpers overnemen wanneer zij de brongegevens niet zelf controleren. Een in november ingediend onderzoek toont aan dat deze configuratie aanzienlijke betrouwbaarheidsproblemen kan veroorzaken.
Claude en GPT-modellen onder de loep
Wetenschappers testten de AI-modellen van Anthropic en OpenAI met nep-documenten en valse informatie. Bij Claude Opus 5 bedroeg het verschil dramatisch: wanneer het model zelf bestanden las, ging het fout in 1 op 180 gevallen. Wanneer het dezelfde taak delegeerde aan de zwakker model Haiku 4.5, liep dit op tot 75 foute antwoorden.
Een soortgelijk patroon zichtbaar bij GPT: het model ging nul keer fout bij rechtstreeks lezen, maar maakte 44 fouten in 180 pogingen wanneer het afhankelijk was van een zwakker model voor gegevensverwerking.
Oplossingen voor betrouwbaarheid
De tests toonden aan dat gelijkwaardige helpers en extra verificatie het probleem aanzienlijk reduceerden. Toen onderzoekers hetzelfde-niveau modellen gebruikten, daalde het aantal fouten dramatisch. Ook vereisten voor bronverwijzingen en kritische verificatie haalden het foutpercentage omlaag van 15 naar 1 op 40 pogingen.
Praktische implicaties
De onderzoekers waarschuwen dat het beoordelen van alleen het superviserend model tekortkomingen kan missen die ontstaan door de manier waarop onderliggende AI's informatie verwerken. De experimenten gebruikten kunstmatige scenario's; de resultaten geven geen directe voorspelling van problemen bij echte gebruikerstoepassingen, maar benadrukken wel dat architectuurkeuzes belangrijk zijn voor systeembetrouwbaarheid.


