L'analyse médico-légale de l'IA contre les géants de la technologie : « Nous pouvons subir des représailles »

La Commission européenne s'appuie de plus en plus sur des organisations non gouvernementales comme AI Forensics pour faire appliquer sa législation numérique historique. Cette dépendance découle de l'expertise spécialisée et des méthodes non conventionnelles que ces groupes emploient pour analyser des systèmes algorithmiques complexes, qui sortent souvent des compétences principales des organismes de réglementation. AI Forensics, une ONG basée à Paris, joue un rôle crucial dans l'enquête sur les plateformes et l'information du développement des politiques. AI Forensics se concentre sur l'examen minutieux des systèmes de recommandation des médias sociaux et des technologies émergentes de chatbots, qui façonnent considérablement la consommation d'informations en ligne. Leurs enquêtes basées sur les données impliquent souvent des « méthodes adversariales » pour collecter du contenu publiquement disponible, leur permettant d'analyser le comportement des plateformes dans diverses conditions et pour différents groupes d'utilisateurs. Cette approche fournit des preuves essentielles aux régulateurs, notamment pour l'application du Digital Services Act (DSA). Le DSA est mis en avant comme une législation pivot en raison de sa portée européenne et de son approche globale des risques systémiques, couvrant des questions telles que l'intégrité électorale et la santé mentale. Bien que le DSA soit un objectif principal, AI Forensics contribue également à aborder d'autres domaines critiques, tels que la diffusion d'images intimes non consensuelles. Ce travail souligne le soutien vital, en coulisses, que les organisations de la société civile apportent pour naviguer dans le paysage complexe de l'application des politiques numériques.