Grok-misbruikafbeeldingen: Commissie van de EU opent procedure onder de Digital Services Act

De Europese Commissie heeft een nieuwe procedure in het kader van de Digital Services Act (DSA) gestart tegen X (voorheen Twitter), en onderzoekt de integratie van de Grok AI-chatbot. Deze actie vloeit voort uit zorgen over de manier waarop het platform omgaat met zeer problematische inhoud, met name de creatie en verspreiding van deepfake-afbeeldingen van minderjarigen zonder toestemming. Het onderzoek benadrukt de toewijding van de EU om haar digitale regelgeving te handhaven en platforms verantwoordelijk te houden voor door gebruikers gegenereerd materiaal. De specifieke focus van de DSA-procedure is de vermeende nalatigheid van X om de verspreiding van schadelijke deepfake-afbeeldingen gegenereerd door Grok adequaat aan te pakken, die opzettelijk op een manier geïntegreerd lijkt te zijn die de creatie van dergelijke inhoud heeft gefaciliteerd. Deze ontwikkeling onderstreept de complexe uitdagingen die AI-gegenereerde beelden met zich meebrengen en de noodzaak van robuuste beleidslijnen voor inhoudsmoderatie, vooral bij het omgaan met illegale en uitbuitende materialen. De Commissie zal de interne processen van X en de effectiviteit van haar maatregelen ter voorkoming en verwijdering van dergelijke inhoud onderzoeken. Dit onderzoek heeft aanzienlijke implicaties voor X en andere grote online platforms die binnen de EU actief zijn, aangezien het een assertievere houding signaleert ten aanzien van inhoudsmoderatie en AI-gerelateerde risico's. De uitkomst kan leiden tot nieuwe richtlijnen of strengere handhavingsmaatregelen met betrekking tot door AI gegenereerde inhoud en de verantwoordelijkheden van platforms bij het beperken van de schadelijke gevolgen ervan. Het benadrukt ook de drang van de EU om een veiligere en verantwoordelijkere digitale omgeving te creëren voor haar burgers, met name voor kwetsbare groepen.