La Ley de IA no es suficiente: cerrar las lagunas peligrosas que permiten violaciones de derechos

La Ley de IA de la UE, diseñada para regular los sistemas de IA de alto riesgo, enfrenta críticas por importantes lagunas que podrían permitir el uso sin control de la IA en áreas como la seguridad nacional y la aplicación de la ley. Estas exenciones generan preocupación sobre la posible vigilancia masiva y las prácticas discriminatorias, lo que subraya el debate en curso sobre el equilibrio entre el avance tecnológico y los derechos fundamentales. El problema central gira en torno a cuán estrictamente se aplicará la Ley de IA, particularmente dentro de dominios sensibles. Un nuevo informe de la filial de EDRi Danes je nov dan se centra en Eslovenia y destaca la necesidad de salvaguardias nacionales más estrictas para mitigar los riesgos asociados con las lagunas de la Ley de IA. Las recomendaciones enfatizan la necesidad de mecanismos de supervisión transparentes para garantizar la responsabilidad y prevenir los abusos de los sistemas de IA. Esto es especialmente crucial dado el potencial de que estos sistemas se desplieguen en contextos donde los derechos individuales podrían verse significativamente afectados. Estas lagunas podrían afectar a varios grupos, incluidos los manifestantes y los migrantes, que pueden enfrentar una mayor vigilancia o un trato discriminatorio. Implicaciones más amplias involucran la erosión de la confianza en las tecnologías digitales y un posible efecto disuasorio en la libertad de expresión. El ángulo de la soberanía digital europea es relevante aquí, ya que estos riesgos socavan el objetivo de la UE de ser líder en el desarrollo ético de la IA.