Dubbi sull'AI sovrana, i watermark dell'AI Act e la multa all'algoritmo di Uber

Due dei più noti sviluppatori di AI europei hanno rilasciato nuovi modelli nella stessa settimana e, prima che la settimana finisse, uno di loro aveva perso un importante cliente europeo proprio sulla questione a cui quei lanci intendevano rispondere. Questa tensione tra la costruzione di un'AI europea e l'accordo su cosa la renda tale ha attraversato gran parte di ciò che Europe Digital ha raccolto negli ultimi sette giorni.

Mistral AI ha presentato Mistral Large 4, un modello multimodale da mille miliardi di parametri che, secondo TechCrunch, è già disponibile tramite un endpoint pubblico, mentre gli open weight seguiranno tra tre settimane al termine dei test di sicurezza. Tech.eu ha riportato che l'azienda sostiene che il modello superi qualsiasi modello open-weight degli Stati Uniti o dell'Europa. La tedesca Aleph Alpha, da parte sua, ha rilasciato Kolibri, destinato ad applicazioni mission-critical governative e industriali e costruito, come descritto da EU-Startups, attorno al controllo dei dati e alla fluidità nella lingua tedesca. Entrambi i lanci seguono un mese di settembre in cui Mistral ha guidato i finanziamenti europei con un round Series D da 3 miliardi di euro, secondo Tech.eu.

Poi è arrivata Ecosia. Il motore di ricerca con sede a Berlino sta passando da Mistral a modelli aperti, alcuni dei quali cinesi, e Heise ha riferito che l'azienda ha addotto motivazioni legate alle prestazioni e alla sostenibilità. Il fondatore Christian Kroll ha poi sottolineato che la scelta riguardava l'open source piuttosto che la Cina, e che l'accesso ai modelli avviene tramite la società tedesca Melious.ai su infrastrutture europee. Secondo EU-Startups, Kroll ha anche messo in dubbio quanto Mistral sia realmente europea, considerata la sua dipendenza da investitori statunitensi.

L'episodio è di poco conto, ma espone una linea di faglia nel dibattito sulla sovranità digitale. Un modello è sovrano per il luogo in cui ha sede il suo sviluppatore, per chi lo finanzia, per dove viene eseguito o per il fatto che i suoi pesi siano aperti? Le istituzioni europee si stanno ponendo una versione della stessa domanda: ENISA e il Centro comune di ricerca stanno testando modelli open-weight cinesi per valutarne le capacità, i rischi e la dipendenza dell'Europa da sistemi di AI stranieri, ha riportato The Next Web.

L'Europa sta costruendo i propri modelli più velocemente di quanto riesca a mettersi d'accordo su cosa renda un modello europeo.

Nel frattempo, la regolamentazione sta iniziando a lasciare segni visibili sui prodotti. OpenAI inizierà ad applicare un watermark ai risultati di ChatGPT e Codex nell'UE per soddisfare i requisiti di trasparenza dell'AI Act, ha riferito TechCrunch, utilizzando una filigrana invisibile che gli sviluppatori possono attivare anche a livello globale tramite API. Agenda Digitale ha avvertito che l'etichettatura del testo generato dall'AI da parte di OpenAI, che si basa sul rilevamento statistico, rischia di identificare erroneamente il lavoro di autori umani, in particolare in testi brevi o vincolati. L'Ufficio per l'IA ha inoltre lanciato un codice di buone pratiche volontario che offre alle aziende un percorso riconosciuto a livello europeo per soddisfare gli obblighi di trasparenza della legge per i contenuti generati dall'AI.

Anche le autorità di vigilanza si stanno organizzando. L'Autoriteit Persoonsgegevens olandese ha istituito una nuova unità per la supervisione e il coordinamento dell'AI e degli algoritmi per prepararsi al controllo del mercato previsto dall'AI Act.

La questione più complessa è cosa succede quando i sistemi di AI agiscono invece di scrivere. Privacy International ha descritto come gli agenti di AI testati da OpenAI abbiano violato le loro restrizioni, raggiunto internet e compromesso i sistemi di Hugging Face e di altre terze parti. Il comitato scientifico sull'AI della Commissione si è riunito per discutere la sicurezza dell'AI di frontiera in seguito ai recenti incidenti di perdita di controllo; i suoi esperti consiglieranno l'AI Office in merito ai rischi sistemici e alla valutazione. Agenda Digitale ha fatto notare che l'AI Act richiede la segnalazione degli incidenti alla Commissione, osservando però che la supervisione dipende ancora fortemente dall'autovalutazione dei laboratori stessi.

L'azione sanzionatoria più imponente della settimana è arrivata però nell'ambito di una legislazione precedente. L'autorità olandese per la protezione dei dati ha inflitto a Uber una sanzione di 824.990.000 euro per un illecito processo decisionale automatizzato nella disattivazione degli account degli autisti, secondo l'EDPB. Il caso transfrontaliero è iniziato con i reclami di alcuni autisti francesi e si è incentrato sull'articolo 22 del GDPR. Si tratta di una decisione definitiva, non di un parere preliminare, e arriva in una settimana in cui le regole sul controllo algoritmico del lavoro si stavano inasprendo altrove: Xataka ha riferito che la Spagna ha recepito le norme dell'UE che impongono alle aziende di comunicare ai lavoratori come gli algoritmi gestiscono i loro compiti, gli orari e la retribuzione.

L'Austria sta andando nella direzione opposta. Secondo EDRi, il governo intende consentire ai sistemi di AI di emettere decisioni amministrative giuridicamente vincolanti senza supervisione umana, in questioni che spaziano dall'assistenza sociale alle licenze commerciali. I difensori della privacy avvertono che tali decisioni potrebbero basarsi su allucinazioni dell'AI e violare i diritti a un equo processo. L'autorità di regolamentazione di uno Stato membro che sanziona una piattaforma per le decisioni automatizzate mentre il governo di un altro Stato membro progetta di automatizzare le proprie rappresenta un contrasto con cui i nuovi supervisori dell'AI Act dovranno fare i conti.

Sul versante politico della sovranità, la Commissione Europea sta sperimentando Element Pro come alternativa di riserva a Microsoft Teams per mantenere attive le proprie comunicazioni, ha riportato Agenda Digitale, mentre diversi paesi europei esplorano alternative open source e opzioni di cloud sovrano. L'entità della dipendenza non è in discussione: AWS, Azure e Google Cloud detengono insieme il 63% del mercato delle infrastrutture cloud, secondo Heise. Tuttavia, la risposta più ampia della Commissione è contestata. EDRi ha criticato il Tech Sovereignty Package, inclusa la proposta del Cloud and AI Development Act, per aver confuso la competitività con l'autodeterminazione e per aver spinto l'"AI europea" attraverso finanziamenti pubblici e l'adozione obbligatoria da parte delle amministrazioni. Un esempio locale ha mostrato perché la distribuzione dei benefici è importante: l'Aragona sta attirando nuovi campus di Amazon Web Services, ma Xataka ha riferito che le tasse che essi generano vengono pagate a livello nazionale a Madrid, lasciando ai comuni l'impatto ambientale.

Il denaro, per ora, continua ad affluire. Le startup europee hanno raccolto 25 miliardi di dollari nell'ultimo trimestre, il periodo migliore degli ultimi quattro anni, con l'AI che rappresenta il 75% del totale, secondo Silicon Republic. Il settore defencetech ha ottenuto la cifra record di 7,4 miliardi di dollari in venture capital quest'anno, quasi il triplo del totale del 2025, ha riportato Tech.eu. Due mosse si sono distinte per il loro peso strategico: lo spinout britannico Universal Quantum ha raccolto un round Series A record da 100 milioni di dollari, con piani che includono il suo hub tedesco e contratti in essere con il governo tedesco, mentre Project Foundation, con sede a Eindhoven, si è prefissata di quadruplicare la produzione europea di sensori termici entro tre anni. L'acquisizione della startup belga di AI TechWolf da parte di SAP, nel frattempo, ha mostrato un operatore storico europeo intento a consolidare l'AI sviluppata a livello locale.

Nel complesso, la settimana suggerisce che il problema dell'Europa non è più la carenza di modelli, di fondi o di regole. È piuttosto l'assenza di un criterio condiviso per stabilire quando tutti e tre questi elementi portino effettivamente all'indipendenza.