Frank Schweitzer, hoe kunnen we voorkomen dat kwaadaardige AI-zwermen onze democratieën vernietigen?

Europese beleidsmakers worstelen met de toenemende dreiging dat kunstmatige intelligentie (AI) wordt ingezet voor grootschalige desinformatiecampagnes, een zorg die werd benadrukt door een recente waarschuwing van 22 onderzoekers, waaronder emeritus hoogleraar Frank Schweitzer van ETH Zurich. Deze interdisciplinaire groep publiceerde hun bevindingen in het tijdschrift *Science*, waarin zij de potentie onderstrepen van door AI aangestuurde zwermen om democratische processen te ondermijnen door middel van geavanceerde manipulatiestrategieën. De urgentie vloeit voort uit de groeiende toegankelijkheid en kracht van AI-tools, die misbruikt kunnen worden om valse verhalen op een ongekende schaal en snelheid te genereren en te verspreiden, wat een aanzienlijke uitdaging vormt voor maatschappelijke stabiliteit en een geïnformeerd publiek debat. De zorgen van de onderzoekers liggen in de evoluerende mogelijkheden van AI, met name in het genereren van zeer overtuigende synthetische media en het coördineren van gecoördineerde online aanvallen. Hoewel specifieke technische details van mogelijke AI-zwermen niet werden uitgewerkt, benadrukt de waarschuwing het vermogen van AI tot snelle aanpassing en leren, waardoor deze bestaande tegenmaatregelen kan omzeilen en kwetsbaarheden in digitale communicatiekanalen kan uitbuiten. Deze ontwikkeling vereist een proactieve aanpak om de risico's van kwaadwillige AI-toepassingen te begrijpen en te beperken, en pleit voor innovatieve oplossingen die deze opkomende dreigingen kunnen detecteren en neutraliseren. De implicaties van ongecontroleerde, door AI gedreven desinformatie reiken tot alle burgers en democratische instellingen in heel Europa. De wijdverbreide verspreiding van valse informatie kan het publieke vertrouwen ondermijnen, kiezers polariseren en de integriteit van verkiezingen belemmeren, waardoor de fundamenten van democratisch bestuur worden bedreigd. Deze dreiging noodzaakt een krachtige reactie van zowel regelgevende instanties als de technologiesector om robuuste verdedigingen te ontwikkelen, digitale geletterdheid te bevorderen en ervoor te zorgen dat AI-ontwikkeling in lijn is met democratische waarden en maatschappelijk welzijn, mogelijk leidend tot verdere initiatieven voor Europese digitale soevereiniteit op het gebied van AI-beveiliging.