Das KI-Gesetz reicht nicht aus: Schließen der gefährlichen Schlupflöcher, die Rechtsverletzungen ermöglichen

Die KI-Verordnung der EU, die darauf abzielt, Hochrisiko-KI-Systeme zu regulieren, sieht sich Kritik für erhebliche Schlupflöcher ausgesetzt, die den ungehinderten Einsatz von KI in Bereichen wie der nationalen Sicherheit und der Strafverfolgung ermöglichen könnten. Diese Ausnahmen werfen Bedenken hinsichtlich potenzieller Massenüberwachung und diskriminierender Praktiken auf und unterstreichen die anhaltende Debatte über das Gleichgewicht zwischen technologischem Fortschritt und Grundrechten. Das zentrale Problem dreht sich darum, wie streng die KI-Verordnung durchgesetzt wird, insbesondere in sensiblen Bereichen. Ein neuer Bericht der EDRi-Partnerorganisation Danes je nov dan konzentriert sich auf Slowenien und unterstreicht die Notwendigkeit strengerer nationaler Schutzmaßnahmen, um die Risiken im Zusammenhang mit den Schlupflöchern der KI-Verordnung zu mindern. Die Empfehlungen betonen die Notwendigkeit transparenter Überwachungsmechanismen, um Rechenschaftspflicht zu gewährleisten und den Missbrauch von KI-Systemen zu verhindern. Dies ist besonders wichtig angesichts des Potenzials, dass diese Systeme in Kontexten eingesetzt werden, in denen die individuellen Rechte erheblich beeinträchtigt werden könnten. Diese Schlupflöcher könnten verschiedene Gruppen betreffen, darunter Demonstranten und Migranten, die möglicherweise einer erhöhten Überwachung oder diskriminierenden Behandlung ausgesetzt sind. Weitere Auswirkungen umfassen die Aushöhlung des Vertrauens in digitale Technologien und einen potenziellen Abschreckungseffekt auf die Meinungsfreiheit. Der Aspekt der europäischen digitalen Souveränität ist hier relevant, da diese Risiken das Ziel der EU untergraben, eine führende Rolle in der ethischen KI-Entwicklung zu spielen.