Doutes sur l'IA souveraine, filigranes de l'AI Act et amende d'Uber pour son algorithme

Deux des développeurs d'IA les plus connus d'Europe ont publié de nouveaux modèles la même semaine. Avant la fin de celle-ci, l'un d'eux avait perdu un client européen de premier plan sur la question même à laquelle ces lancements étaient censés répondre. Cette tension, entre la création d'une IA européenne et l'accord sur ce qui la rend européenne, a traversé une grande partie de ce que Europe Digital a recueilli au cours des sept derniers jours.

Mistral AI a dévoilé Mistral Large 4, un modèle multimodal de mille milliards de paramètres qui, selon TechCrunch, est disponible via un point d'accès public dès maintenant, avec des poids ouverts à suivre dans trois semaines une fois les tests de sécurité terminés. Tech.eu a rapporté que l'entreprise affirme qu'il surpasse tout modèle à poids ouvert des États-Unis ou d'Europe. Aleph Alpha, en Allemagne, a pour sa part publié Kolibri, destiné aux applications gouvernementales et industrielles critiques et construit, comme l'a décrit EU-Startups, autour du contrôle des données et de la maîtrise de la langue allemande. Les deux lancements font suite à un mois de septembre au cours duquel Mistral AI a mené le financement européen avec une série D de 3 milliards d'euros, selon Tech.eu.

Puis est arrivé Ecosia. Le moteur de recherche basé à Berlin passe de Mistral AI à des modèles ouverts, dont certains chinois, et Heise a rapporté qu'il a invoqué des préoccupations de performance et de durabilité. Le fondateur Christian Kroll a par la suite souligné que le choix portait sur l'open source plutôt que sur la Chine, les modèles étant accessibles via Melious.ai, basée en Allemagne, sur une infrastructure européenne. Selon EU-Startups, il a également remis en question le caractère européen de Mistral AI, étant donné sa dépendance à l'égard des investisseurs américains.

L'épisode est mineur, mais il expose une ligne de faille dans le débat sur la souveraineté numérique. Un modèle est-il souverain en raison du lieu où son développeur a son siège social, de la personne qui le finance, de l'endroit où il est exécuté ou de l'ouverture de ses poids ? Les institutions européennes se posent une version de la même question: l'ENISA et le Centre commun de recherche testent des modèles chinois à poids ouverts pour évaluer leurs capacités, leurs risques et la dépendance de l'Europe à l'égard des systèmes d'IA étrangers, a rapporté The Next Web.

L'Europe construit ses propres modèles plus vite qu'elle ne peut s'entendre sur ce qui rend un modèle européen.

La réglementation, quant à elle, commence à laisser des marques visibles sur les produits. OpenAI commencera à filigraner les résultats de ChatGPT et Codex dans l'UE pour répondre aux exigences de transparence de l'IA Act, a rapporté TechCrunch, en utilisant un filigrane invisible que les développeurs peuvent également activer à l'échelle mondiale via l'API. Agenda Digitale a mis en garde contre le fait que l'étiquetage par OpenAI du texte généré par l'IA, qui repose sur la détection statistique, risque d'identifier à tort le travail d'auteurs humains, en particulier dans des textes courts ou contraints. L'AI Office a également lancé un code de bonnes pratiques volontaire qui offre aux entreprises une voie reconnue au niveau européen pour répondre aux obligations de transparence de la loi pour le contenu généré par l'IA.

Les superviseurs s'organisent également. L'Autoriteit Persoonsgegevens néerlandaise a mis en place une nouvelle unité de supervision et de coordination de l'IA et des algorithmes pour préparer la surveillance du marché en vertu de l'IA Act.

La question la plus difficile est de savoir ce qui se passe lorsque les systèmes d'IA agissent plutôt que d'écrire. Privacy International a décrit comment des agents d'IA testés par OpenAI ont violé leurs restrictions, ont atteint Internet et compromis les systèmes de Hugging Face et d'autres tiers. Le groupe scientifique sur l'IA de la Commission s'est réuni pour discuter de la sécurité de l'IA de pointe à la suite des récents incidents de perte de contrôle, ses experts conseilleront le Bureau de l'IA sur les risques systémiques et l'évaluation. Agenda Digitale a noté que l'IA Act exige de signaler les incidents à la Commission, tout en observant que la surveillance dépend encore fortement de l'auto-évaluation des laboratoires.

La plus grande mesure d'application de la loi de la semaine, cependant, est intervenue dans le cadre d'une législation plus ancienne. L'autorité néerlandaise de protection des données a infligé à Uber une amende de 824 990 000 € pour la prise de décision automatisée illégale dans la désactivation des comptes de conducteurs, selon l'EDPB. L'affaire transfrontalière a commencé par des plaintes de conducteurs français et a porté sur l'article 22 du RGPD. Il s'agit d'une décision définitive, et non d'une conclusion préliminaire, et elle intervient dans une semaine où les règles sur le contrôle algorithmique du travail se durcissent ailleurs. Xataka a rapporté que l'Espagne a transposé les règles de l'UE obligeant les entreprises à dire aux travailleurs comment les algorithmes gèrent leurs tâches, leurs horaires et leur rémunération.

L'Autriche va dans l'autre sens. Selon EDRi, le gouvernement prévoit de laisser les systèmes d'IA prendre des décisions administratives juridiquement contraignantes sans surveillance humaine, dans des domaines allant de l'aide sociale aux licences commerciales. Les défenseurs de la vie privée avertissent que de telles décisions pourraient reposer sur des hallucinations de l'IA et violer les droits à un procès équitable. Le fait qu'un régulateur d'un État membre pénalise une plate-forme pour des décisions automatisées alors qu'un gouvernement d'un autre État membre prévoit d'automatiser les siennes est un contraste auquel les nouveaux superviseurs de l'IA Act devront faire face.

Du côté politique de la souveraineté, la Commission européenne pilote Element Pro en tant que sauvegarde de Microsoft Teams pour maintenir le fonctionnement de ses communications, a rapporté Agenda Digitale, alors que plusieurs pays européens explorent des alternatives open source et des options de cloud souverain. L'ampleur de la dépendance ne fait aucun doute: AWS, Azure et Google Cloud détiennent ensemble 63 % du marché de l'infrastructure cloud, selon Heise. Pourtant, la réponse plus large de la Commission est contestée. EDRi a critiqué le Tech Sovereignty Package, y compris le projet de loi sur le développement du cloud et de l'IA, pour avoir confondu compétitivité et autodétermination et pour avoir poussé l'"IA européenne" par le biais de financements publics et de l'adoption obligatoire par les administrations. Un exemple local a montré pourquoi la répartition des bénéfices compte. Aragón attire de nouveaux campus Amazon Web Services, mais Xataka a rapporté que les taxes qu'ils génèrent sont payées au niveau national à Madrid, laissant aux municipalités l'impact environnemental.

L'argent, pour l'instant, continue d'affluer. Les startups européennes ont levé 25 milliards de dollars au cours du dernier trimestre, la meilleure période en quatre ans, l'IA représentant 75 % du total, selon Silicon Republic. Defencetech a obtenu un record de 7,4 milliards de dollars en capital-risque cette année, soit près du triple du total de 2025, a rapporté Tech.eu. Deux mouvements se sont démarqués par leur poids stratégique: la spin-out britannique Universal Quantum a levé un record de 100 millions de dollars en série A, avec des plans qui incluent son hub allemand et des contrats existants avec le gouvernement allemand, et Project Foundation, dont le siège est à Eindhoven, a décidé de quadrupler la production européenne de capteurs thermiques d'ici trois ans. L'acquisition par SAP de la startup d'IA belge TechWolf, quant à elle, a montré un acteur historique européen consolidant l'IA locale.

Pris dans leur ensemble, la semaine suggère que le problème de l'Europe n'est plus une pénurie de modèles, d'argent ou de règles. C'est l'absence d'un test partagé pour savoir quand tous les trois s'additionnent réellement pour aboutir à l'indépendance.