EU start DSA-onderzoek naar X na Grok AI-ontkledingsfiasco

De Europese Unie heeft een formele onderzoek ingesteld naar X (voorheen Twitter) onder de Digital Services Act (DSA), gericht op de omgang van het platform met AI-gegenereerde inhoud na een incident waarbij de Grok-chatbot betrokken was. Dit onderzoek onderstreept de voortdurende toewijding van de EU aan het handhaven van haar digitale regelgeving en het ter verantwoording roepen van grote online platforms voor inhoudsmoderatie en naleving. De uitkomst van het onderzoek kan belangrijke precedenten scheppen voor hoe AI-gegenereerde media worden beheerd in de hele regio. De specifieke focus van het DSA-onderzoek ligt op beschuldigingen dat X onvoldoende heeft opgetreden tegen de verspreiding van niet-consensuele seksueel expliciete beelden gegenereerd door zijn AI-chatbot, Grok. Deze ontwikkeling volgt op een eerdere boete van €120 miljoen die X eerder kreeg opgelegd voor andere DSA-overtredingen, wat de voortdurende controle op de operationele normen en inhoudsbeheer van het platform benadrukt. Het onderzoek zal de systemen en processen van X onderzoeken voor het identificeren en verwijderen van dergelijke schadelijke inhoud, evenals de transparantie ervan met betrekking tot AI-mogelijkheden. Deze actie van de Europese Commissie heeft directe gevolgen voor X en andere grote online platforms die binnen de EU opereren, en versterkt de strikte verplichtingen die door de DSA worden opgelegd. De bredere implicaties reiken tot het lopende debat over verantwoorde ontwikkeling en inzet van AI, waarbij regelgevers ernaar streven ervoor te zorgen dat opkomende technologieën de verspreiding van illegale of schadelijke materialen niet faciliteren. De assertieve houding van de EU onderstreept haar ambitie om een veiligere en betrouwbaardere digitale omgeving voor haar burgers te creëren.