L'amende de 825 millions d'euros d'Uber et l'accord avec la police qui la compromet

L'autorité néerlandaise de protection des données et la CNIL en France ont infligé cette semaine à Uber une amende de près de 825 millions d'euros pour des décisions automatisées ayant affecté ses chauffeurs. Il s'agit de la dernière d'une série de sanctions visant la plateforme pour la façon dont elle gère les personnes qui travaillent pour elle. L'amende cible exactement le type de management opaque et algorithmique contre lequel les critiques mettent en garde depuis que les plateformes de travail à la tâche ont automatisé la répartition des courses et la désactivation des comptes. Elle confirme également que les règles du RGPD contre les décisions purement automatisées ont du mordant dès lors que les régulateurs décident de les appliquer.

La même semaine, un autre type de décision automatisée a été mis en service sans faire l'objet d'un tel examen. Brême a commencé à équiper un tiers de sa flotte de tramways d'un scanner comportemental par IA qui signale les passagers qu'il juge agressifs, selon netzpolitik.org. Le média décrit ce déploiement comme se déroulant sans planification claire ni garanties de confidentialité, et ce malgré des résultats d'essais qui n'inspiraient guère confiance. Personne ne menace les autorités de transport de Brême d'une amende de la taille de celle d'Uber pour cela.

Et à Bruxelles même, la Commission négocie un accord qui élargirait l'accès des États-Unis aux bases de données policières européennes, comme le rapporte netzpolitik.org, avec le défenseur de la vie privée Max Schrems parmi les détracteurs du projet. Il s'agit du même Max Schrems qui, en novembre dernier, qualifiait de trumpiennes les pratiques législatives à l'origine d'un texte de réforme du RGPD ayant fuité. La plainte est cette fois différente sur le fond mais pas sur la forme, puisqu'une institution européenne s'apprête à transférer davantage de données de citoyens outre-Atlantique avec moins de débat public que n'en exigent les règles qu'elle impose aux entreprises privées.

Il est facile de sanctionner un algorithme. Il est beaucoup plus difficile de le faire pour un gouvernement qui marchande des données policières.

Mettez ces trois éléments bout à bout, et une asymétrie familière réapparaît. Les éditoriaux de ce mois-ci ont suivi la façon dont les tribunaux nationaux et les régulateurs ont gagné en mordant sur le papier, avec un tribunal allemand forçant Amazon à revoir ses signalements liés au DSA, et un régulateur régional contestant le déploiement du règlement sur l'IA par Berlin. L'application de la loi à l'encontre des entreprises ne cesse de se durcir. L'examen de ce que font les autorités publiques avant tout déploiement ne suit pas le même rythme, qu'il s'agisse d'un opérateur de tramway installant des caméras d'analyse comportementale ou d'une Commission négociant l'accès aux données avec un gouvernement étranger. Une amende de la taille de celle d'Uber envoie un signal fort à chaque plateforme qui prend des décisions automatisées concernant des Européens. Elle n'envoie en revanche aucun signal à ceux qui décident, au nom des Européens, du sort de leurs données avant même que quiconque ne puisse intenter une action en justice.

Citoyens…

Pour les chauffeurs et les coursiers d'Uber, cette amende concerne moins l'argent échangé entre les régulateurs et une plateforme, qu'une décision obligeant l'entreprise à laisser un humain, et non une boîte noire, prendre les décisions qui mettent fin à la capacité d'une personne de gagner sa vie grâce à l'application. Toute personne voyageant en tramway à Brême ce mois-ci est soumise à un autre type de jugement automatisé, beaucoup moins transparent, car les autorités de transport n'ont pas encore expliqué qui examine les signalements de leur scanner comportemental, ni ce qui se passe ensuite.

Deux autres affaires allemandes vont dans le même sens. HateAid a déposé une plainte pénale contre Meta pour des enregistrements dissimulés qui auraient été réalisés par ses lunettes connectées, et le commissaire à la protection des données du pays a enregistré une forte augmentation des violations de données de santé cette année. Rien de tout cela ne relève d'une politique abstraite, car c'est ce qui apparaît dans les propres traces numériques d'un consommateur.

Entreprises…

Pour toute entreprise prenant des décisions automatisées concernant des clients ou des travailleurs à la tâche en Europe, l'amende infligée à Uber constitue le signal de conformité le plus clair de l'année. Les régulateurs de plusieurs États membres peuvent agir et n'hésiteront pas à le faire, avec un montant qui n'a rien de symbolique. Le risque financier lié aux décisions automatisées vient de devenir un enjeu débattu au niveau des conseils d'administration.

Un risque plus discret mais connexe a fait surface dans un rapport sur des visages générés par l'IA capables de déjouer les systèmes de vérification d'identité. Les entreprises qui s'appuient sur la reconnaissance faciale ou sur de simples vérifications du vivant pour l'intégration de leurs clients ou la prévention de la fraude sont déjà dépassées par la technologie censée les tromper. Le rapport relie ce problème à l'approche du règlement sur l'IA de l'Union européenne concernant les contenus synthétiques, laquelle encourage à privilégier une véritable preuve d'origine plutôt qu'une simple reconnaissance de formes.

Administrations…

Les propres négociations de la Commission avec Washington sur l'accès aux bases de données policières méritent la même attention que celle que Bruxelles accorde à tous les autres. Les critiques de Max Schrems font écho à l'avertissement qu'il avait lancé en novembre dernier concernant un projet de réforme du RGPD ayant fuité, illustrant une inquiétude récurrente quant à la manière dont les institutions européennes elles-mêmes élaborent des règles pour les données qui quittent l'Union.

Le déploiement des tramways de Brême est un cas d'école pour tout organisme public faisant l'acquisition d'IA. Un essai aux résultats peu convaincants n'a pas suffi à empêcher un déploiement sur l'ensemble de la flotte, ce qui représente exactement le type de faille préalable au déploiement que les batailles de ce mois-ci sur la mise en œuvre du règlement sur l'IA visent à combler, en Allemagne et ailleurs.

Également aujourd'hui

• Le fonds norvégien RunwayVC a clôturé une première levée de 40 millions d'euros pour son deuxième fonds dédié aux technologies industrielles · EU-Startups
• L'Europe a enregistré la semaine dernière plus de 45 accords de financement technologique d'une valeur supérieure à 684 millions d'euros · Tech.eu
• L'entreprise allemande de robotique NEURA a fait l'acquisition d'Adlatus Robotics pour intégrer l'IA aux robots de nettoyage · EU-Startups
• La Commission européenne organise une journée de présentation pour les finalistes de son prix Apply AI Startup Award · European Commission Digital Strategy
• L'entreprise londonienne Embedd a levé 2,3 millions d'euros pour construire une infrastructure logicielle dédiée à l'IA physique · EU-Startups
• L'entreprise londonienne Boldr a levé 4,2 millions d'euros pour étendre sa plateforme intelligente de chauffage et de climatisation · EU-Startups
• L'agence néerlandaise UWV a présenté une approche de cybersécurité fondée sur les risques et liée au règlement sur la cybersécurité · Digitale Overheid
• La CNIL a publié de bonnes pratiques pour protéger les données personnelles dans les outils collaboratifs de l'enseignement supérieur · CNIL
• Boldr a levé 5 millions de dollars pour transformer les systèmes énergétiques domestiques britanniques en capacité pour le réseau · Tech.eu
• L'entreprise berlinoise Kazimi a levé 2,2 millions d'euros en pré-amorçage pour lutter contre l'activité des bots dans le marketing mobile · Tech.eu
• Bosch commencera à produire des robots humanoïdes pour la start-up britannique Humanoid à partir de 2027 · Presse-Citron
• Une enquête menée dans sept pays a révélé que 41 pour cent des dirigeants s'attendent à ce que l'IA réduise leurs effectifs · Presse-Citron
• L'entreprise hongroise d'edtech BOOKR a levé 6,1 millions d'euros pour étendre ses outils de lecture et d'apprentissage des langues à l'échelle mondiale · The Recursive

Sources

• Confirmation d'une amende de près de 825 millions d'euros à l'encontre d'Uber concernant des décisions automatisées affectant ses chauffeurs · CNIL
• Rapport sur le déploiement par Brême d'un scanner comportemental par IA sur un tiers de sa flotte de tramways · netzpolitik.org
• Détails des négociations entre l'UE et les États-Unis sur l'accès aux données policières critiquées par Max Schrems · netzpolitik.org
• Couverture de la plainte pénale de HateAid contre Meta concernant ses lunettes connectées en Allemagne · Heise Online
• Rapport sur une forte augmentation des violations de données de santé en Allemagne avec 428 cas recensés en juillet · Heise Online
• Examen de la manière dont les visages générés par l'IA déjouent les systèmes de vérification d'identité en ligne · Agenda Digitale