Escándalo de deepfakes: la Comisión de la UE inicia una investigación contra Grok y X

La Comisión Europea ha iniciado una investigación sobre X, anteriormente Twitter, y su chatbot de IA Grok, en relación con posibles infracciones de la Ley de Servicios Digitales (DSA). Esta acción se produce tras informes generalizados de que X genera y distribuye imágenes deepfake sexualizadas no consentidas de mujeres y niños, lo que suscita importantes preocupaciones sobre las obligaciones de moderación de contenidos y evaluación de riesgos de la plataforma. La investigación examinará si X realizó evaluaciones de impacto adecuadas antes de integrar Grok y si ha mitigado suficientemente los riesgos asociados a sus servicios. Estudios recientes ponen de manifiesto la naturaleza generalizada del problema, con un aumento en la producción y difusión de estas dañinas deepfakes. La respuesta inicial de X implicó restringir la función a los usuarios de pago y, posteriormente, implementar medidas técnicas para limitar la generación de imágenes explícitas, aunque el alcance total de estas limitaciones está bajo escrutinio. Ahora se exige a la plataforma que presente a la Comisión pruebas que demuestren su cumplimiento de los requisitos de la DSA en materia de evaluación y mitigación de riesgos para los riesgos sistémicos planteados por sus servicios. Esta investigación afecta directamente a los usuarios, en particular a mujeres y niños, cuya seguridad digital y derechos fundamentales pueden haber sido comprometidos. La Comisaria de Mercado Único Digital de la UE, Henna Virkkunen, subrayó que la investigación tiene como objetivo determinar si X ha cumplido con sus deberes legales o ha tratado los derechos de los usuarios como daños colaterales. El resultado podría acarrear importantes multas para X y sentar un precedente sobre cómo se responsabiliza a las plataformas de redes sociales en virtud de la DSA por el impacto de sus integraciones de IA. La investigación forma parte de un esfuerzo más amplio de la UE para regular las plataformas digitales y garantizar la rendición de cuentas por contenidos perjudiciales. X ya está sujeta a una investigación en curso iniciada en diciembre de 2023, que abarca la moderación de contenidos, la gestión de contenidos ilegales y los riesgos de los sistemas de recomendación. Este escrutinio intensificado subraya el compromiso de la UE de fomentar un entorno en línea más seguro y reforzar la soberanía digital europea frente a los avances tecnológicos potencialmente descontrolados.