EU-Cyberagentuur gebruikt in het geheim AI voor rapporten – en komt ermee in de problemen

Het cybersecurityagentschap van de Europese Unie, ENISA, heeft toegegeven AI te gebruiken voor het genereren van rapporten, een praktijk die onder de loep is genomen vanwege de opname van verzonnen bronnen. Deze onthulling benadrukt de groeiende bezorgdheid over de verantwoorde toepassing van AI in gevoelige gebieden, met name als het gaat om rapportage en analyse. Het incident onderstreept het belang van strenge verificatieprocessen. ENISA-functionarissen erkenden dat minstens twee van hun rapporten talrijke "gehallucineerde" bronnen bevatten, een term die wordt gebruikt om AI-gegenereerde informatie te beschrijven die er geloofwaardig uitziet, maar in feite volledig verzonnen is. Het agentschap heeft nog niet aangegeven welke specifieke AI-tools zijn gebruikt of hoe deze bronnen in de officiële documenten terecht zijn gekomen. Dergelijke fouten wijzen op de noodzaak van meer toezicht en validatie. De belangrijkste impact van dit incident ligt op de geloofwaardigheid van ENISA en de betrouwbaarheid van haar rapporten. Dit roept bredere vragen op over de betrouwbaarheid van AI-gegenereerde content in officiële contexten, met name op gebieden als cybersecurity waar nauwkeurigheid van cruciaal belang is. Het benadrukt de noodzaak van zorgvuldige controle en menselijke beoordeling.