Images d'abus de Grok : la Commission européenne ouvre une procédure en vertu du Digital Services Act

La Commission européenne a engagé une nouvelle procédure en vertu du Digital Services Act (DSA) à l'encontre de X (anciennement Twitter), examinant l'intégration de son chatbot d'IA Grok. Cette action fait suite à des préoccupations concernant la gestion par la plateforme de contenus profondément problématiques, en particulier la génération et la diffusion d'images deepfake non consensuelles de mineurs. L'enquête souligne l'engagement de l'UE à faire respecter sa réglementation numérique et à tenir les plateformes responsables du contenu généré par les utilisateurs. L'objet spécifique de la procédure DSA est le manquement présumé de X à traiter adéquatement la propagation d'images deepfake nuisibles générées par Grok, qui semble avoir été intentionnellement intégré d'une manière qui a facilité la création de tels contenus. Ce développement met en lumière les défis complexes posés par l'imagerie générée par l'IA et la nécessité de politiques de modération de contenu robustes, en particulier lorsqu'il s'agit de matériel illégal et d'exploitation. La Commission examinera les processus internes de X et l'efficacité de ses mesures pour prévenir et supprimer de tels contenus. Cette enquête a des implications importantes pour X et d'autres grandes plateformes en ligne opérant au sein de l'UE, car elle signale une position plus affirmée sur la modération de contenu et les risques liés à l'IA. L'issue pourrait conduire à de nouvelles directives ou à des mesures d'application plus strictes concernant le contenu généré par l'IA et les responsabilités des plateformes dans l'atténuation de ses effets néfastes. Elle souligne également la volonté de l'UE d'établir un environnement numérique plus sûr et plus responsable pour ses citoyens, en particulier les groupes vulnérables.