Deepfake-schandaal: EU-Commissie start onderzoek tegen Grok en X

De Europese Commissie heeft een onderzoek ingesteld naar X, voorheen Twitter, en zijn AI-chatbot Grok, wegens mogelijke schendingen van de Digital Services Act (DSA). Deze actie volgt op wijdverbreide meldingen dat X het genereren en verspreiden van niet-consensuele geseksualiseerde deepfake-beelden van vrouwen en kinderen, wat aanzienlijke zorgen oproept over de inhoudsmoderatie en risicobeoordelingsverplichtingen van het platform. Het onderzoek zal nagaan of X adequate impactbeoordelingen heeft uitgevoerd alvorens Grok te integreren en of het de risico's die verbonden zijn aan zijn diensten voldoende heeft beperkt. Recente studies benadrukken de omvang van het probleem, met een toename in de productie en verspreiding van deze schadelijke deepfakes. De eerste reactie van X was het beperken van de functie tot betalende gebruikers en later het implementeren van technische maatregelen om de generatie van expliciete beelden te beperken, hoewel de volledige omvang van deze beperkingen onder de loep wordt genomen. Het platform wordt nu gevraagd de Commissie bewijs te leveren waaruit blijkt dat het voldoet aan de DSA-vereisten met betrekking tot risicobeoordeling en -beperking voor de systemische risico's die door zijn diensten worden veroorzaakt. Dit onderzoek heeft directe gevolgen voor gebruikers, met name vrouwen en kinderen, wier digitale veiligheid en fundamentele rechten mogelijk zijn aangetast. EU-commissaris voor Digitale Zaken, Henna Virkkunen, benadrukte dat het onderzoek tot doel heeft na te gaan of X aan zijn wettelijke plichten heeft voldaan of de rechten van gebruikers als 'collateral damage' heeft behandeld. De uitkomst kan leiden tot aanzienlijke boetes voor X en een precedent scheppen voor de manier waarop sociale mediaplatforms onder de DSA verantwoordelijk worden gehouden voor de impact van hun AI-integraties. Het onderzoek maakt deel uit van een bredere inspanning van de EU om digitale platforms te reguleren en verantwoordelijkheid te garanderen voor schadelijke inhoud. X is al het onderwerp van een lopend onderzoek dat in december 2023 is ingesteld, en dat betrekking heeft op inhoudsmoderatie, de omgang met illegale inhoud en de risico's van aanbevelingssystemen. Deze intensieve controle onderstreept de toewijding van de EU aan het bevorderen van een veiligere online omgeving en het versterken van de Europese digitale soevereiniteit tegen potentieel ongebreidelde technologische vooruitgang.