De AI Act is niet genoeg: het dichten van de gevaarlijke mazen die schendingen van rechten mogelijk maken

De AI Act van de EU, die is ontworpen om AI-systemen met een hoog risico te reguleren, wordt bekritiseerd vanwege aanzienlijke mazen in de wet die ongecontroleerd gebruik van AI mogelijk zouden kunnen maken op gebieden als nationale veiligheid en rechtshandhaving. Deze uitzonderingen roepen zorgen op over potentiële massasurveillance en discriminerende praktijken, en onderstrepen het voortdurende debat over de balans tussen technologische vooruitgang en fundamentele rechten. De centrale kwestie draait om hoe streng de AI Act zal worden gehandhaafd, met name binnen gevoelige domeinen. Een nieuw rapport van EDRi-affiliate Danes je nov dan richt zich op Slovenië en benadrukt de noodzaak van strengere nationale waarborgen om de risico's in verband met de mazen in de AI Act te beperken. De aanbevelingen benadrukken de noodzaak van transparante toezichtmechanismen om verantwoording te garanderen en misbruik van AI-systemen te voorkomen. Dit is vooral cruciaal gezien de mogelijkheid dat deze systemen worden ingezet in contexten waar individuele rechten aanzienlijk zouden kunnen worden aangetast. Deze mazen in de wet zouden verschillende groepen kunnen treffen, waaronder demonstranten en migranten, die te maken kunnen krijgen met meer surveillance of discriminerende behandeling. Bredere implicaties omvatten de aantasting van het vertrouwen in digitale technologieën en een potentieel afschrikkend effect op de vrijheid van meningsuiting. De Europese digitale soevereiniteitsfactor is hier relevant, aangezien deze risico's de doelstelling van de EU om een leider te zijn in ethische AI-ontwikkeling ondermijnen.