La Comisión investiga los sistemas de recomendación de Grok y X bajo la Ley de Servicios Digitales

La Comisión Europea ha iniciado una investigación formal contra X, anteriormente Twitter, en virtud de la Ley de Servicios Digitales (DSA). Esta acción se dirige específicamente a los sistemas de recomendación de la plataforma, incluidas las funcionalidades de IA Grok recién integradas, lo que genera preocupaciones sobre la posible difusión de contenido ilegal y daños a los usuarios. La investigación subraya el compromiso de la UE de hacer cumplir sus regulaciones digitales en las principales plataformas en línea. La investigación examinará los procesos de evaluación y mitigación de riesgos de X en relación con la implementación de Grok, en particular en lo que respecta a contenido ilegal como imágenes sexualmente explícitas manipuladas y posible material de abuso sexual infantil. La Comisión está investigando si X evaluó y abordó diligentemente los riesgos sistémicos, incluida la violencia de género y los impactos negativos en el bienestar mental y físico de los usuarios, antes de integrar Grok. Esto sigue a una investigación en curso sobre el cumplimiento de X con las obligaciones de gestión de riesgos de los sistemas de recomendación iniciada en diciembre de 2023. Esta investigación tiene implicaciones significativas para X y otras plataformas en línea muy grandes que operan dentro de la UE. Destaca el papel de la DSA para responsabilizar a las plataformas por los riesgos asociados con sus algoritmos e integraciones de IA, garantizando la protección del usuario y la integridad del contenido en línea. El resultado podría sentar precedentes sobre cómo se evalúan y regulan los sistemas de recomendación y las funciones de IA en todo el panorama digital.