La multa da 825 milioni di euro a Uber e l'accordo con la polizia che la ridimensiona

L'Autorità olandese per la protezione dei dati e la CNIL francese hanno multato Uber per quasi 825 milioni di euro questa settimana a causa di decisioni automatizzate che hanno colpito i suoi autisti, l'ultima di una serie di sanzioni che la piattaforma ha affrontato per il modo in cui gestisce le persone che lavorano per lei. La multa colpisce esattamente quel tipo di gestione opaca e guidata da algoritmi di cui i critici avevano avvertito fin da quando le piattaforme della gig economy hanno automatizzato per la prima volta l'assegnazione delle corse e le disattivazioni degli account, e conferma che le regole del GDPR contro le decisioni puramente automatizzate hanno efficacia quando i regolatori decidono di applicarle.

Nella stessa settimana, un diverso tipo di decisione automatizzata è entrato in funzione senza alcun controllo del genere. Brema ha iniziato a dotare un terzo della sua flotta di tram con uno scanner comportamentale basato sull'AI che segnala i passeggeri ritenuti aggressivi, secondo quanto riportato da netzpolitik.org, un'implementazione che la testata descrive in corso senza una chiara pianificazione o garanzie per la privacy, e nonostante i risultati dei test avessero fornito scarsi motivi di fiducia. Nessuno sta minacciando l'autorità dei trasporti di Brema con una multa delle dimensioni di quella di Uber per questo.

E nella stessa Bruxelles, la Commissione sta negoziano un accordo che amplierebbe l'accesso degli Stati Uniti ai database della polizia europea, come riportato da netzpolitik.org, con il difensore della privacy Max Schrems tra i critici della bozza. Si tratta dello stesso Schrems che lo scorso novembre era stato citato per aver definito trumpiane le pratiche legislative alla base di un testo di riforma trapelato sul GDPR. La lamentela questa volta è diversa nella sostanza ma non nella tipologia: un'istituzione europea che si muove per trasferire sempre più dati dei cittadini oltreoceano con meno dibattito pubblico rispetto alle regole che fa rispettare alle aziende private.

Un algoritmo è facile da multare. Un governo che cede i dati della polizia non lo è.

Unendo le tre cose, riappare un'asimmetria familiare. Gli editoriali di questo mese hanno analizzato come i tribunali e i regolatori nazionali abbiano mostrato i denti sulla carta, con un tribunale tedesco che ha costretto Amazon a ricostruire il suo sistema di segnalazione legato al DSA, e un regolatore di un Land che ha contestato l'implementazione dell'AI Act a Berlino. L'applicazione delle norme contro le aziende continua a farsi più severa. Il controllo su ciò che le autorità pubbliche fanno prima dell'implementazione non sta tenendo il passo, che si tratti di un operatore tranviario che installa telecamere di scansione comportamentale o di una Commissione che negozia l'accesso ai dati con un governo straniero. Una sanzione delle dimensioni di quella di Uber invia un segnale reale a ogni piattaforma che prende decisioni automatizzate sugli europei. Non invia invece alcun segnale a chi decide, per conto degli europei, cosa succede ai loro dati prima che qualcuno possa intentare una causa al riguardo.

Consumatori…

Per gli autisti e i corrieri di Uber, questa multa riguarda meno il passaggio di denaro tra i regolatori e una piattaforma e più una sentenza secondo cui l'azienda deve permettere a un essere umano, non a una scatola nera, di prendere le decisioni che pongono fine alla possibilità di qualcuno di guadagnare dall'app. Chiunque viaggi in tram a Brema questo mese è soggetto a un diverso tipo di giudizio automatizzato con molta meno chiarezza: l'autorità dei trasporti deve ancora spiegare chi esamina una segnalazione dal suo scanner comportamentale o cosa succede in seguito.

Altre due storie tedesche puntano nella stessa direzione. HateAid ha presentato una denuncia penale contro Meta per presunte registrazioni occulte tramite i suoi smart glasses, e il garante per la protezione dei dati del paese ha registrato un forte aumento delle violazioni dei dati sanitari quest'anno. Nulla di tutto ciò è una politica astratta: è ciò che si manifesta nella scia di dati di un singolo consumatore.

Imprese…

Per qualsiasi azienda in Europa che gestisce processi decisionali automatizzati sui clienti o sui gig worker, la multa di Uber rappresenta il segnale di conformità più chiaro dell'anno: i regolatori in più di uno stato membro possono agire e agiranno al riguardo, e la cifra associata non è affatto simbolica. L'esposizione al rischio delle decisioni automatizzate è appena diventata una cifra da consiglio di amministrazione.

Un rischio più silenzioso ma correlato è emerso in un rapporto sui volti generati dall'AI che ingannano i sistemi di verifica dell'identità. Le aziende che si affidano al riconoscimento facciale o a semplici controlli di liveness per l'onboarding o la prevenzione delle frodi sono già in ritardo rispetto alla tecnologia concepita per ingannarle, e il rapporto collega il problema all'approccio dell'AI Act dell'UE nei confronti dei contenuti sintetici, spingendo verso autentiche prove di origine piuttosto che al solo riconoscimento di pattern.

Pubbliche amministrazioni…

Gli stessi negoziati della Commissione con Washington sull'accesso ai database della polizia meritano lo stesso controllo che Bruxelles applica a chiunque altro. Le critiche di Schrems fanno eco a un avvertimento che aveva lanciato lo scorso novembre su una bozza di riforma del GDPR trapelata, rivelando una ricorrente preoccupazione su come le stesse istituzioni dell'UE stiano redigendo le regole per i dati che lasciano il blocco.

L'implementazione sui tram di Brema è un caso di studio per qualsiasi ente pubblico che acquisisce AI: un test con risultati deboli non è bastato a fermare un'installazione sull'intera flotta, esattamente il tipo di lacuna pre-implementazione che le battaglie di questo mese per l'applicazione dell'AI Act, in Germania e altrove, mirano a colmare.

Inoltre oggi

• La norvegese RunwayVC ha concluso un primo round da 40 milioni di euro per il suo secondo fondo tecnologico industriale · EU-Startups
• L'Europa ha registrato oltre 45 accordi di finanziamento nel settore tech per un valore di oltre 684 milioni di euro la scorsa settimana · Tech.eu
• L'azienda di robotica tedesca NEURA ha acquisito Adlatus Robotics per portare l'AI nei robot per le pulizie · EU-Startups
• La Commissione Europea ospita un pitching day per i finalisti del suo Apply AI Startup Award · European Commission Digital Strategy
• La londinese Embedd ha raccolto 2,3 milioni di euro per costruire un'infrastruttura software per l'AI fisica · EU-Startups
• La londinese Boldr ha raccolto 4,2 milioni di euro per espandere la sua piattaforma intelligente per il riscaldamento e il raffreddamento · EU-Startups
• L'agenzia olandese UWV ha delineato un approccio alla cybersecurity basato sul rischio e legato al Cyber Security Act · Digitale Overheid
• La CNIL ha pubblicato le best practice per proteggere i dati personali negli strumenti di collaborazione per l'istruzione superiore · CNIL
• Boldr ha raccolto 5 milioni di dollari per trasformare i sistemi energetici domestici del Regno Unito in capacità di rete · Tech.eu
• La berlinese Kazimi ha raccolto 2,2 milioni di euro pre-seed per combattere le attività dei bot nel mobile marketing · Tech.eu
• Bosch inizierà a produrre robot umanoidi per la startup britannica Humanoid dal 2027 · Presse-Citron
• Un sondaggio condotto in sette paesi ha rilevato che il 41% dei dirigenti si aspetta che l'AI riduca la propria forza lavoro · Presse-Citron
• L'edtech ungherese BOOKR ha raccolto 6,1 milioni di euro per espandere a livello globale i suoi strumenti di lettura e lingua · The Recursive
• La berlinese Kazimi si è assicurata anche 2,2 milioni di euro per aiutare le app a verificare i dati contro i bot · EU-Startups

Fonti

• Confermata una multa di quasi 825 milioni di euro contro Uber per le decisioni automatizzate che colpiscono gli autisti · CNIL
• Segnalata l'introduzione a Brema di uno scanner comportamentale basato sull'AI in un terzo della sua flotta di tram · netzpolitik.org
• Dettagliati i negoziati tra UE e Stati Uniti sull'accesso ai dati della polizia, criticati da Max Schrems · netzpolitik.org
• Seguito l'esposto penale di HateAid contro Meta per i suoi smart glasses in Germania · Heise Online
• Segnalato un forte aumento delle violazioni dei dati sanitari in Germania, 428 registrate entro luglio · Heise Online
• Esaminato come i volti generati dall'AI stiano eludendo i sistemi di verifica dell'identità online · Agenda Digitale