L'AI Act non è sufficiente: chiudere le pericolose scappatoie che consentono violazioni dei diritti

L'AI Act dell'UE, progettato per regolamentare i sistemi di intelligenza artificiale (IA) ad alto rischio, è oggetto di critiche per significative lacune che potrebbero consentire l'uso incontrollato dell'IA in aree come la sicurezza nazionale e l'applicazione della legge. Queste esenzioni sollevano preoccupazioni sul potenziale di sorveglianza di massa e pratiche discriminatorie, sottolineando il dibattito in corso sull'equilibrio tra progresso tecnologico e diritti fondamentali. La questione centrale riguarda la severità con cui l'AI Act sarà applicato, in particolare in ambiti sensibili. Un nuovo rapporto dall'affiliato EDRi Danes je nov dan si concentra sulla Slovenia ed evidenzia la necessità di salvaguardie nazionali più rigorose per mitigare i rischi associati alle lacune dell'AI Act. Le raccomandazioni sottolineano la necessità di meccanismi di controllo trasparenti per garantire la responsabilità e prevenire abusi dei sistemi di IA. Ciò è particolarmente cruciale dato il potenziale di implementazione di questi sistemi in contesti in cui i diritti individuali potrebbero essere significativamente compromessi. Queste lacune potrebbero colpire vari gruppi, tra cui manifestanti e migranti, che potrebbero subire un aumento della sorveglianza o un trattamento discriminatorio. Implicazioni più ampie riguardano l'erosione della fiducia nelle tecnologie digitali e un potenziale effetto dissuasivo sulla libertà di espressione. La prospettiva della sovranità digitale europea è rilevante in questo contesto, poiché questi rischi minano l'obiettivo dell'UE di essere leader nello sviluppo di un'IA etica.