Ubers boete van € 825 miljoen en de deal met de politie die deze ondermijnt

De Nederlandse Autoriteit Persoonsgegevens en de Franse CNIL hebben Uber deze week een boete van bijna 825 miljoen euro opgelegd voor geautomatiseerde beslissingen die de chauffeurs raakten. Dit is de recentste in een reeks straffen die het platform heeft gekregen voor de manier waarop het omgaat met de mensen die er werken. De boete richt zich precies op het soort ondoorzichtig, door algoritmes aangestuurd management waar critici al voor waarschuwen sinds gig-platforms begonnen met het automatiseren van rittoewijzingen en deactivaties. Bovendien bevestigt het dat de regels van de GDPR tegen louter geautomatiseerde besluiten daadwerkelijk effect hebben zodra toezichthouders erop handhaven.

In dezelfde week ging een ander soort geautomatiseerd besluit live zonder deze strenge controle. Bremen is begonnen met het uitrusten van een derde van zijn tramvloot met een AI-gedragsscanner die passagiers markeert die het systeem als agressief beoordeelt, zo meldt netzpolitik.org. De nieuwswebsite beschrijft de uitrol als een proces dat doorgaat zonder duidelijke planning of privacywaarborgen, en ondanks testresultaten die weinig reden tot vertrouwen gaven. Niemand dreigt de vervoersautoriteit van Bremen daarvoor met een boete ter grootte van die van Uber.

En in Brussel zelf onderhandelt de Commissie over een overeenkomst die de toegang van de Verenigde Staten tot Europese politiedatabases zou verruimen, zo werd gemeld door netzpolitik.org. Privacyvoorvechter Max Schrems behoort tot de critici van het concept. Het is dezelfde Schrems die afgelopen november werd geciteerd toen hij de wetgevingspraktijken achter een uitgelekte tekst voor een GDPR-hervorming Trumpiaans noemde. De klacht is deze keer inhoudelijk anders, maar niet van een andere aard: een Europese instelling maakt aanstalten om meer burgerdata de oceaan over te sturen met minder publiek debat dan de regels die zij handhaaft tegenover private bedrijven.

Een algoritme is makkelijk te beboeten. Een overheid die politiedata verhandelt, is dat niet.

Voeg deze drie samen en er duikt een vertrouwde asymmetrie op. De hoofdartikelen van deze maand hebben gevolgd hoe nationale rechtbanken en toezichthouders op papier tanden hebben gekregen. Zo dwong een Duitse rechtbank Amazon om zijn DSA-rapportage opnieuw op te bouwen en vocht een regionale toezichthouder de uitrol van de AI Act in Berlijn aan. De handhaving tegen bedrijven wordt steeds scherper. De controle op wat publieke instanties doen voorafgaand aan een uitrol blijft echter achter, of het nu gaat om een tramvervoerder die camera's installeert voor gedragsscanning of een Commissie die onderhandelt over datatoegang met een buitenlandse overheid. Een boete van de omvang van die van Uber geeft een duidelijk signaal af aan elk platform dat geautomatiseerde beslissingen over Europeanen uitvoert. Het geeft echter totaal geen signaal af aan de mensen die namens de Europeanen beslissen wat er met hun data gebeurt, nog voordat iemand de kans krijgt om daar een rechtszaak over aan te spannen.

Consumenten…

Voor de chauffeurs en koeriers van Uber draait deze boete minder om het geld dat van eigenaar wisselt tussen toezichthouders en een platform, dan om de uitspraak dat het bedrijf een mens in plaats van een black box de beslissingen moet laten nemen die bepalen of iemand nog geld kan verdienen via de app. Iedereen die deze maand in Bremen met de tram reist, is onderworpen aan een ander soort geautomatiseerd oordeel met veel minder duidelijkheid: de vervoersautoriteit moet namelijk nog uitleggen wie een melding van de gedragsscanner beoordeelt of wat er daarna gebeurt.

Twee andere Duitse verhalen wijzen in dezelfde richting. HateAid heeft een strafrechtelijke aanklacht ingediend tegen Meta wegens vermeende heimelijke opnames door de slimme brillen van het bedrijf, en de nationale toezichthouder voor gegevensbescherming heeft dit jaar een sterke stijging van datalekken met gezondheidsgegevens geregistreerd. Niets daarvan is abstract beleid: het is wat direct zichtbaar wordt in het eigen dataspoor van een consument.

Bedrijven…

Voor elk bedrijf dat in Europa gebruikmaakt van geautomatiseerde besluitvorming voor klanten of gig-werkers, is de boete voor Uber het duidelijkste compliancesignaal van het jaar: toezichthouders in meer dan één lidstaat kunnen en zullen hierop optreden, en het daaraan gekoppelde bedrag is niet symbolisch. Het risico rond geautomatiseerde besluitvorming is zojuist een cijfer op bestuursniveau geworden.

Een stiller maar gerelateerd risico kwam aan het licht in een rapport over AI-gegenereerde gezichten die identiteitsverificatiesystemen om de tuin leiden. Bedrijven die steunen op gezichtsherkenning of eenvoudige liveness-checks voor onboarding of fraudepreventie lopen al achter op de technologie die bedoeld is om hen voor de gek te houden. Het rapport koppelt het probleem aan de benadering van de EU AI Act voor synthetische content, waarbij wordt aangestuurd op een echt bewijs van oorsprong in plaats van enkel patroonherkenning.

Overheden…

De eigen onderhandelingen van de Commissie met Washington over toegang tot politiedatabases verdienen dezelfde kritische blik die Brussel op alle anderen toepast. De kritiek van Schrems weerspiegelt een waarschuwing die hij vorig jaar november gaf over een uitgelekt concept voor de GDPR-hervorming, wat een patroon toont van bezorgdheid over hoe de eigen instellingen van de EU regels opstellen voor data die het machtsblok verlaat.

De tramuitrol in Bremen is een casestudy voor elke publieke instantie die AI aanschaft: een test met zwakke resultaten was niet genoeg om een vlootbrede inzet te stoppen. Dit is precies het soort hiaat voorafgaand aan een uitrol dat de implementatiestrijd rond de AI Act in Duitsland en daarbuiten deze maand zou moeten dichten.

Verder vandaag

• Het Noorse RunwayVC sloot een eerste ronde van 40 miljoen euro af voor zijn tweede industrial tech-fonds · EU-Startups
• Europa registreerde afgelopen week meer dan 45 financieringsdeals in de techsector met een totale waarde van ruim 684 miljoen euro · Tech.eu
• Het Duitse roboticabedrijf NEURA nam Adlatus Robotics over om AI naar schoonmaakrobots te brengen · EU-Startups
• De Europese Commissie organiseert een pitchdag voor de finalisten van de Apply AI Startup Award · European Commission Digital Strategy
• Het Londense Embedd haalde 2,3 miljoen euro op om software-infrastructuur voor fysieke AI te bouwen · EU-Startups
• Het Londense Boldr haalde 4,2 miljoen euro op om zijn slimme verwarmings- en koelingsplatform uit te breiden · EU-Startups
• De Nederlandse instantie UWV schetste een op risico gebaseerde cybersecurity-aanpak die is gekoppeld aan de Cyber Security Act · Digitale Overheid
• CNIL publiceerde best practices voor de bescherming van persoonsgegevens in samenwerkingstools voor het hoger onderwijs · CNIL
• Boldr haalde 5 miljoen dollar op om Britse energie-systemen voor thuisgebruik in te zetten als netcapaciteit · Tech.eu
• Het Berlijnse Kazimi haalde 2,2 miljoen euro aan pre-seed financiering op om botactiviteit in mobiele marketing te bestrijden · Tech.eu
• Bosch start vanaf 2027 met de productie van humanoïde robots voor de Britse start-up Humanoid · Presse-Citron
• Uit een enquête in zeven landen bleek dat 41 procent van de leidinggevenden verwacht dat AI hun personeelsbestand zal verkleinen · Presse-Citron
• Het Hongaarse edtechbedrijf BOOKR haalde 6,1 miljoen euro op om zijn lees- en taalhulpmiddelen wereldwijd uit te breiden · The Recursive
• Het Berlijnse Kazimi verzekerde zich ook van 2,2 miljoen euro om apps te helpen bij het verifiëren van data tegen bots · EU-Startups

Bronnen

• Bevestigde een boete van bijna 825 miljoen euro voor Uber vanwege geautomatiseerde beslissingen die chauffeurs raakten · CNIL
• Rapporteerde de uitrol door Bremen van een AI-gedragsscanner in een derde van zijn tramvloot · netzpolitik.org
• Beschreef de onderhandelingen over politiedatatoegang tussen de EU en de VS, die werden bekritiseerd door Max Schrems · netzpolitik.org
• Versloeg de strafrechtelijke aanklacht van HateAid tegen Meta over de slimme brillen in Duitsland · Heise Online
• Rapporteerde een sterke stijging in datalekken met gezondheidsgegevens in Duitsland, met 428 geregistreerde gevallen tot juli · Heise Online
• Onderzocht hoe AI-gegenereerde gezichten online identiteitsverificatiesystemen om de tuin leiden · Agenda Digitale