La multa de 825 millones de euros a Uber y el acuerdo policial que la socava

La Autoridad Neerlandesa de Protección de Datos y la CNIL de Francia multaron a Uber con casi 825 millones de euros esta semana por decisiones automatizadas que afectaron a sus conductores, la última de una serie de sanciones a las que se ha enfrentado la plataforma por su forma de gestionar a las personas que trabajan para ella. La multa apunta exactamente al tipo de gestión opaca e impulsada por algoritmos sobre la que los críticos han advertido desde que las plataformas gig automatizaron por primera vez la asignación de tareas y las desactivaciones, y confirma que las normas del RGPD contra las decisiones puramente automatizadas tienen peso una vez que los reguladores actúan basándose en ellas.

La misma semana, se puso en marcha un tipo diferente de decisión automatizada sin ninguno de esos controles. Bremen ha comenzado a equipar a un tercio de su flota de tranvías con un escáner de comportamiento por IA que señala a los pasajeros que considera agresivos. Según netzpolitik.org, este despliegue avanza sin una planificación clara o garantías de privacidad, y a pesar de que los resultados de las pruebas ofrecían pocos motivos para la confianza. Nadie está amenazando a la autoridad de transporte de Bremen con una multa del tamaño de la de Uber por ello.

Y en la propia Bruselas, la Comisión está negociando un acuerdo que ampliaría el acceso de Estados Unidos a las bases de datos policiales europeas, según ha informado netzpolitik.org. El defensor de la privacidad Max Schrems se encuentra entre los críticos del borrador. Se trata del mismo Schrems que fue citado el pasado mes de noviembre calificando de trumpianas las prácticas legislativas que sustentan un texto filtrado sobre la reforma del RGPD. La queja esta vez es diferente en el fondo, pero no en la forma: una institución europea se dispone a entregar más datos de los ciudadanos al otro lado del Atlántico con menos debate público que el exigido por las normas que aplica a las empresas privadas.

Es fácil multar a un algoritmo. No lo es tanto multar a un gobierno que negocia con datos policiales.

Si juntamos los tres casos, reaparece una asimetría muy conocida. Los editoriales de este mes han seguido de cerca cómo los tribunales nacionales y los reguladores han afilado sus garras sobre el papel, con ejemplos como un tribunal alemán obligando a Amazon a rehacer sus informes del Reglamento de Servicios Digitales, o un regulador regional que cuestiona el despliegue del Reglamento de Inteligencia Artificial en Berlín. La aplicación de la ley contra las empresas es cada vez más estricta. Sin embargo, el escrutinio de lo que hacen las autoridades públicas antes de un despliegue no avanza al mismo ritmo, ya se trate de un operador de tranvías que instala cámaras de escaneo de comportamiento o de una Comisión que negocia el acceso a datos con un gobierno extranjero. Una multa del tamaño de la de Uber envía una señal real a cualquier plataforma que aplique decisiones automatizadas a los europeos. Pero no envía absolutamente ninguna a las personas que deciden, en nombre de los europeos, qué ocurre con sus datos antes de que alguien tenga la oportunidad de interponer una demanda por ello.

Consumidores…

Para los conductores y repartidores de Uber, esta multa tiene menos que ver con el dinero que cambia de manos entre los reguladores y una plataforma, y más con un dictamen que establece que la empresa debe permitir que un humano, y no una caja negra, tome las decisiones que acaban con la capacidad de alguien de obtener ingresos con la aplicación. Cualquiera que viaje en tranvía por Bremen este mes está sujeto a un tipo diferente de juicio automatizado con mucha menos claridad: la autoridad de transporte aún tiene que explicar quién revisa una alerta de su escáner de comportamiento o qué sucede después.

Otras dos noticias de Alemania apuntan en la misma dirección. HateAid ha presentado una denuncia penal contra Meta por supuestas grabaciones encubiertas realizadas con sus gafas inteligentes, y el comisionado de protección de datos del país ha registrado un fuerte aumento de las filtraciones de datos de salud este año. Nada de esto es política abstracta: es lo que aparece en el propio rastro de datos de un consumidor.

Empresas…

Para cualquier empresa que utilice la toma de decisiones automatizada sobre clientes o trabajadores gig en Europa, la multa a Uber es la señal de cumplimiento normativo más clara del año. Los reguladores de más de un estado miembro pueden tomar medidas al respecto y lo harán, y la cifra impuesta no es simbólica. El riesgo de exposición por el uso de decisiones automatizadas acaba de convertirse en un tema a debatir por los consejos de administración.

Un riesgo más silencioso pero relacionado surgió en un informe sobre rostros generados por IA que logran burlar los sistemas de verificación de identidad. Las empresas que se apoyan en el reconocimiento facial o en comprobaciones sencillas de vitalidad para los procesos de alta o la prevención del fraude ya van un paso por detrás de la tecnología diseñada para engañarlas. El informe vincula este problema con el enfoque del Reglamento de Inteligencia Artificial de la UE sobre el contenido sintético, el cual impulsa el uso de pruebas genuinas de origen en lugar de centrarse únicamente en el reconocimiento de patrones.

Administraciones públicas…

Las propias negociaciones de la Comisión con Washington sobre el acceso a las bases de datos policiales merecen el mismo escrutinio que Bruselas aplica a todos los demás. Las críticas de Schrems se hacen eco de una advertencia que lanzó el pasado noviembre sobre un borrador filtrado de la reforma del RGPD. Esto refleja un patrón de preocupación sobre cómo las propias instituciones de la UE están redactando normas para los datos que abandonan el bloque.

El despliegue en los tranvías de Bremen es un caso de estudio para cualquier organismo público que contrate tecnología de IA: una prueba con resultados mediocres no fue suficiente para detener una implementación en toda la flota, lo que representa exactamente el tipo de laguna previa al despliegue que las batallas de este mes por la aplicación del Reglamento de Inteligencia Artificial, tanto en Alemania como en otros lugares, pretenden cerrar.

Además hoy

• La noruega RunwayVC ha cerrado una primera ronda de 40 millones de euros para su segundo fondo de tecnología industrial · EU-Startups
• Europa registró más de 45 acuerdos de financiación tecnológica por un valor superior a los 684 millones de euros la semana pasada · Tech.eu
• La empresa alemana de robótica NEURA ha adquirido Adlatus Robotics para incorporar IA a los robots de limpieza · EU-Startups
• La Comisión Europea organiza una jornada de presentaciones para los finalistas de su premio Apply AI Startup Award · European Commission Digital Strategy
• La londinense Embedd ha recaudado 2,3 millones de euros para crear infraestructuras de software para la IA física · EU-Startups
• La londinense Boldr ha recaudado 4,2 millones de euros para expandir su plataforma inteligente de calefacción y refrigeración · EU-Startups
• La agencia neerlandesa UWV ha delineado un enfoque de ciberseguridad basado en el riesgo y vinculado al Reglamento de Ciberseguridad · Digitale Overheid
• La CNIL publicó las mejores prácticas para proteger los datos personales en las herramientas colaborativas de educación superior · CNIL
• Boldr ha recaudado 5 millones de dólares para convertir los sistemas de energía doméstica del Reino Unido en capacidad de red · Tech.eu
• La berlinesa Kazimi ha levantado 2,2 millones de euros en fase pre-semilla para combatir la actividad de bots en el marketing móvil · Tech.eu
• Bosch comenzará a producir robots humanoides para la startup británica Humanoid a partir de 2027 · Presse-Citron
• Una encuesta realizada en siete países reveló que el 41 por ciento de los ejecutivos espera que la IA reduzca su plantilla · Presse-Citron
• La empresa húngara de tecnología educativa BOOKR ha recaudado 6,1 millones de euros para expandir sus herramientas de lectura e idiomas a nivel mundial · The Recursive

Fuentes

• Confirmó una multa de casi 825 millones de euros contra Uber por decisiones automatizadas que afectaron a los conductores · CNIL
• Informó sobre el despliegue en Bremen de un escáner de comportamiento por IA en un tercio de su flota de tranvías · netzpolitik.org
• Detalló las negociaciones sobre el acceso a los datos policiales entre la UE y Estados Unidos criticadas por Max Schrems · netzpolitik.org
• Cubrió la denuncia penal de HateAid contra Meta por supuestas grabaciones encubiertas con sus gafas inteligentes en Alemania · Heise Online
• Informó de un fuerte aumento de las filtraciones de datos de salud en Alemania, con 428 incidentes registrados hasta julio · Heise Online
• Examinó cómo los rostros generados por IA están burlando los sistemas de verificación de identidad en línea · Agenda Digitale