Forense de IA contra BigTech: „Podemos sufrir represalias“

La Comisión Europea recurre cada vez más a organizaciones no gubernamentales como AI Forensics para hacer cumplir sus emblemáticas regulaciones digitales. Esta dependencia se deriva de la experiencia especializada y los métodos poco convencionales que emplean estos grupos para analizar sistemas algorítmicos complejos, que a menudo caen fuera de las capacidades centrales de los organismos reguladores. AI Forensics, una ONG con sede en París, desempeña un papel crucial en la investigación de plataformas y en la información para el desarrollo de políticas. AI Forensics se centra en examinar los sistemas de recomendación de redes sociales y las tecnologías emergentes de chatbot, que configuran significativamente el consumo de información en línea. Sus investigaciones basadas en datos a menudo implican "métodos adversarios" para extraer contenido disponible públicamente, lo que les permite analizar el comportamiento de la plataforma bajo diversas condiciones y para diferentes grupos de usuarios. Este enfoque proporciona evidencia esencial para los reguladores, particularmente en la aplicación de la Ley de Servicios Digitales (DSA). La DSA se destaca como una pieza legislativa fundamental debido a su alcance europeo y su enfoque amplio sobre los riesgos sistémicos, abarcando cuestiones como la integridad electoral y la salud mental. Si bien la DSA es un foco principal, AI Forensics también contribuye a abordar otras áreas críticas, como la difusión de imágenes íntimas no consentidas. Este trabajo subraya el apoyo vital que brindan las organizaciones de la sociedad civil, detrás de escena, para navegar por el complejo panorama de la aplicación de políticas digitales.