Luchando por la justicia algorítmica: lecciones aprendidas al trabajar estrechamente con las personas afectadas

La red European Digital Rights (EDRi) ha publicado un informe sobre el proyecto Amsterdam Top400, destacando lecciones cruciales aprendidas en la lucha por la justicia algorítmica. La iniciativa, encabezada por Bits of Freedom, examina el uso de la policía predictiva del proyecto y su impacto en la privacidad de los jóvenes. Esta investigación subraya la creciente necesidad de rendición de cuentas en el uso de la IA y los sistemas basados en datos dentro de los servicios públicos. El proyecto Amsterdam Top400 implicó la recopilación invasiva de datos y el análisis predictivo por parte del municipio. Bits of Freedom colaboró con una coalición de expertos y personas afectadas para evaluar las posibles violaciones. Estas incluyeron infracciones de los derechos de los niños, las leyes de protección de datos y las libertades fundamentales, lo que indica un desprecio por los marcos éticos y legales. Los hallazgos tienen implicaciones significativas para la forma en que los municipios y gobiernos de toda Europa implementan la IA. Al responsabilizar a la ciudad de Ámsterdam, la coalición pretende establecer un precedente para la implementación responsable de la IA y la aplicación de las regulaciones existentes. El proyecto sirve como un crudo recordatorio del potencial de sesgo algorítmico y la necesidad de salvaguardar los derechos individuales en la era digital.