La multa de 825 millones de euros a Uber y el acuerdo policial que la socava

La Autoridad Neerlandesa de Protección de Datos y la CNIL de Francia multaron a Uber con casi 825 millones de euros esta semana por decisiones automatizadas que afectaron a sus conductores. Esta es la última de una serie de sanciones que ha enfrentado la plataforma por la forma en que gestiona a las personas que trabajan para ella. La sanción apunta exactamente al tipo de gestión opaca impulsada por algoritmos sobre la que los críticos han advertido desde que las plataformas *gig* automatizaron por primera vez el despacho de servicios y la desactivación de cuentas, y confirma que las normas del GDPR contra las decisiones puramente automatizadas tienen fuerza una vez que los reguladores actúan.

La misma semana, un tipo distinto de decisión automatizada entró en funcionamiento sin ese nivel de escrutinio. Bremen ha comenzado a equipar un tercio de su flota de tranvías con un escáner de comportamiento basado en AI que señala a los pasajeros que considera agresivos, según netzpolitik.org. El medio describe este despliegue como un proceso que avanza sin una planificación clara ni garantías de privacidad, a pesar de que los resultados de las pruebas previas ofrecieron pocos motivos para generar confianza. Nadie está amenazando a la autoridad de transporte de Bremen con una multa del tamaño de la de Uber por ello.

En la propia Bruselas, la Comisión está negociando un acuerdo que ampliaría el acceso de Estados Unidos a las bases de datos policiales europeas, según informa netzpolitik.org. El defensor de la privacidad Max Schrems se encuentra entre los críticos del borrador. Es el mismo Schrems a quien se citó el pasado mes de noviembre calificando de trumpianas las prácticas legislativas detrás de la filtración de un texto de reforma del GDPR. La queja en esta ocasión difiere en el fondo pero no en la forma: una institución europea se dispone a entregar más datos de los ciudadanos al otro lado del Atlántico con menos debate público que el exigido por las normas que aplica a las empresas privadas.

Un algoritmo es fácil de multar. Un gobierno que negocia con datos policiales no lo es.

Al analizar estos tres casos de forma conjunta, reaparece una asimetría familiar. Los editoriales de este mes han seguido la pista de cómo los tribunales y reguladores nacionales han ganado capacidad de sanción sobre el papel, como el tribunal alemán que obligó a Amazon a rehacer sus informes de la DSA, o el regulador regional que cuestionó el despliegue del AI Act en Berlín. Las medidas coercitivas contra las empresas son cada vez más estrictas. Sin embargo, el escrutinio sobre las acciones de las autoridades públicas antes de su implementación no sigue el mismo ritmo, ya se trate de un operador de tranvías instalando cámaras de análisis de comportamiento o de la Comisión negociando el acceso a datos con un gobierno extranjero. Una multa de la magnitud de la de Uber envía una advertencia clara a todas las plataformas que aplican decisiones automatizadas a los ciudadanos europeos. Por el contrario, no envía absolutamente ningún mensaje a quienes deciden, en nombre de esos mismos europeos, qué ocurre con sus datos antes de que nadie tenga la oportunidad de presentar una demanda al respecto.

Consumidores…

Para los conductores y repartidores de Uber, esta sanción no se trata tanto del dinero que cambia de manos entre los reguladores y la plataforma, sino de la resolución que obliga a la empresa a permitir que un ser humano, y no una caja negra, tome las decisiones que ponen fin a la capacidad de una persona para generar ingresos con la aplicación. Cualquier usuario que viaje en tranvía por Bremen este mes está sujeto a un tipo distinto de juicio automatizado con mucha menos claridad: la autoridad de transporte aún no ha explicado quién revisa las alertas emitidas por su escáner de comportamiento ni qué ocurre a continuación.

Otras dos noticias provenientes de Alemania apuntan en la misma dirección. HateAid ha presentado una denuncia penal contra Meta por presuntas grabaciones encubiertas con sus *smart glasses*, y el comisionado de protección de datos del país ha registrado un fuerte aumento de las brechas de datos de salud este año. Nada de esto es pura política abstracta: es lo que se refleja en el propio rastro de datos de los consumidores.

Empresas…

Para cualquier compañía que aplique sistemas de toma de decisiones automatizada sobre clientes o trabajadores *gig* en Europa, la multa impuesta a Uber representa la señal de cumplimiento normativo más clara de todo el año: los reguladores de múltiples estados miembros pueden actuar y lo harán, y las cifras implicadas no son meramente simbólicas. La exposición al riesgo por decisiones automatizadas acaba de convertirse en un asunto económico de máxima prioridad para los consejos de administración.

Un riesgo más silencioso pero directamente relacionado ha salido a la luz en un informe sobre cómo los rostros generados por AI están burlando los sistemas de verificación de identidad. Las empresas que confían en el reconocimiento facial o en simples comprobaciones de viabilidad (*liveness checks*) para el registro de usuarios o la prevención del fraude ya se encuentran rezagadas frente a la tecnología diseñada para engañarlas. Además, el informe relaciona este problema con el enfoque del EU AI Act sobre el contenido sintético, impulsando la necesidad de contar con pruebas genuinas de origen en lugar de depender únicamente del reconocimiento de patrones.

Administraciones públicas…

Las propias negociaciones de la Comisión con Washington sobre el acceso a las bases de datos policiales merecen el mismo escrutinio que Bruselas exige a todos los demás. Las críticas de Max Schrems se hacen eco de la advertencia que realizó el pasado mes de noviembre sobre la filtración de un borrador de reforma del GDPR. Esto refleja un patrón de preocupación constante acerca de cómo las propias instituciones de la UE están redactando la normativa aplicable a los datos que abandonan el bloque.

El despliegue de los tranvías de Bremen es un caso de estudio para cualquier organismo público que contrate tecnología de AI. Un programa piloto con resultados mediocres no fue suficiente para detener su implementación en toda la flota, lo que representa exactamente el tipo de laguna previa al despliegue que los actuales debates sobre la aplicación del AI Act, tanto en Alemania como en otros lugares, pretenden resolver.

Además hoy

• RunwayVC de Noruega anunció un primer cierre de 40 millones de euros para su segundo fondo de tecnología industrial · EU-Startups
• Europa registró más de 45 acuerdos de financiación en el sector tecnológico por un valor superior a los 684 millones de euros la semana pasada · Tech.eu
• La empresa alemana de robótica NEURA adquirió Adlatus Robotics para integrar tecnología de AI en sus robots de limpieza · EU-Startups
• La Comisión Europea organiza una jornada de presentaciones para los finalistas de su galardón Apply AI Startup Award · European Commission Digital Strategy
• Embedd, con sede en Londres, recaudó 2,3 millones de euros para construir infraestructura de software destinada a la AI física · EU-Startups
• La londinense Boldr recaudó 4,2 millones de euros para expandir su plataforma inteligente de calefacción y refrigeración · EU-Startups
• La agencia holandesa UWV ha delineado un enfoque de ciberseguridad basado en riesgos y vinculado al Cyber Security Act · Digitale Overheid
• La CNIL publicó una serie de mejores prácticas para la protección de datos personales en herramientas colaborativas de educación superior · CNIL
• Boldr recaudó 5 millones de dólares para convertir los sistemas de energía doméstica del Reino Unido en capacidad para la red eléctrica · Tech.eu
• Kazimi, con sede en Berlín, consiguió 2,2 millones de euros en una ronda pre-semilla para combatir la actividad de bots en el marketing móvil · Tech.eu
• Bosch comenzará a fabricar robots humanoides para la startup británica Humanoid a partir del año 2027 · Presse-Citron
• Una encuesta realizada en siete países reveló que el 41 por ciento de los ejecutivos espera que la AI reduzca su plantilla de trabajadores · Presse-Citron
• La *edtech* húngara BOOKR logró una financiación de 6,1 millones de euros para expandir sus herramientas de lectura e idiomas a nivel mundial · The Recursive
• La berlinesa Kazimi también aseguró 2,2 millones de euros para ayudar a las aplicaciones a verificar datos frente a los bots · EU-Startups

Fuentes

• Confirmación de una multa de casi 825 millones de euros contra Uber por decisiones automatizadas que afectan a los conductores · CNIL
• Informe sobre el despliegue en Bremen de un escáner de comportamiento de AI en un tercio de su flota de tranvías · netzpolitik.org
• Detalles sobre las negociaciones de acceso a datos policiales entre la UE y EE. UU. criticadas por Max Schrems · netzpolitik.org
• Cobertura de la denuncia penal de HateAid contra Meta por sus *smart glasses* en Alemania · Heise Online
• Informe sobre un fuerte aumento de las brechas de datos de salud en Alemania, con 428 incidentes registrados hasta julio · Heise Online
• Análisis de cómo los rostros generados por AI están burlando los sistemas de verificación de identidad en línea · Agenda Digitale