Deepfake-Skandal: EU-Kommission leitet Untersuchung gegen Grok und X ein

Die Europäische Kommission hat eine Untersuchung gegen X, ehemals Twitter, und dessen KI-Chatbot Grok wegen möglicher Verstöße gegen den Digital Services Act (DSA) eingeleitet. Dieser Schritt folgt auf weit verbreitete Berichte, wonach X nicht einvernehmlich sexualisierte Deepfake-Bilder von Frauen und Kindern generiert und verbreitet, was erhebliche Bedenken hinsichtlich der Inhaltsmoderation und der Risikobewertungspflichten der Plattform aufwirft. Die Untersuchung wird prüfen, ob X vor der Integration von Grok angemessene Folgenabschätzungen durchgeführt und die mit seinen Diensten verbundenen Risiken ausreichend gemindert hat. Aktuelle Studien belegen das Ausmaß des Problems mit einer Zunahme der Produktion und Verbreitung dieser schädlichen Deepfakes. X reagierte zunächst, indem es die Funktion auf zahlende Nutzer beschränkte und später technische Maßnahmen implementierte, um die Erzeugung expliziter Bilder zu begrenzen, obwohl das volle Ausmaß dieser Einschränkungen geprüft wird. Die Plattform ist nun verpflichtet, der Kommission Nachweise vorzulegen, die ihre Einhaltung der DSA-Anforderungen in Bezug auf Risikobewertung und Minderung systemischer Risiken durch ihre Dienste belegen. Diese Untersuchung betrifft unmittelbar Nutzer, insbesondere Frauen und Kinder, deren digitale Sicherheit und Grundrechte möglicherweise kompromittiert wurden. Die EU-Digitalkommissarin Henna Virkkunen betonte, dass die Prüfung darauf abzielt festzustellen, ob X seinen rechtlichen Verpflichtungen nachgekommen ist oder die Rechte der Nutzer als Kollateralschaden behandelt hat. Das Ergebnis könnte zu erheblichen Geldstrafen für X führen und einen Präzedenzfall dafür schaffen, wie Social-Media-Plattformen im Rahmen des DSA für die Auswirkungen ihrer KI-Integrationen zur Rechenschaft gezogen werden. Die Untersuchung ist Teil einer umfassenderen Anstrengung der EU, digitale Plattformen zu regulieren und die Rechenschaftspflicht für schädliche Inhalte zu gewährleisten. X unterliegt bereits einer laufenden Untersuchung, die im Dezember 2023 eingeleitet wurde und sich mit Inhaltsmoderation, der Handhabung illegaler Inhalte und Risiken von Empfehlungssystemen befasst. Diese verstärkte Prüfung unterstreicht das Engagement der EU, ein sichereres Online-Umfeld zu schaffen und die europäische digitale Souveränität gegenüber potenziell unkontrollierten technologischen Fortschritten zu stärken.