KI-Risiken: Breites Bündnis warnt vor verwässerten KI-Regeln

EU-KI-Verordnung unter der Lupe: Schwächung des Verbraucherschutzes befürchtet** Eine breite Koalition von 32 Organisationen hat erhebliche Bedenken hinsichtlich vorgeschlagener "Vereinfachungen" des Gesetzes über Künstliche Intelligenz (KI-Gesetz) der Europäischen Union geäußert und warnt, dass diese Änderungen den Verbraucherschutz gegen KI-Technologien erheblich schwächen könnten. Die Unterzeichner, darunter Verbraucherverbände, zivilgesellschaftliche Gruppen, medizinische Fachkräfte und Prüfstellen, befürchten, dass wichtige Schutzmaßnahmen verwässert werden könnten, insbesondere bei KI-Anwendungen in sensiblen Sektoren wie Medizinprodukten und Kinderspielzeug. Dieses Engagement unterstreicht einen kritischen Zeitpunkt in der Entwicklung der KI-Governance in Europa. Der Kern der Besorgnis liegt in möglichen Änderungen, die in Triloggverhandlungen diskutiert werden. Diese Vorschläge sehen vor, bestimmte Produktkategorien wie Medizinprodukte, Funkanlagen, Spielzeug und Maschinen vom direkten Anwendungsbereich des KI-Gesetzes auszunehmen. Befürworter dieser Ausnahmen argumentieren, dass diese Produkte bereits durch bestehende Sicherheitsvorschriften abgedeckt sind und das KI-Gesetz die Hersteller doppelt belasten würde. Kritiker wenden jedoch ein, dass diese branchenspezifischen Regeln die einzigartigen Risiken, die von KI ausgehen, wie Voreingenommenheit, mangelnde Transparenz und sich entwickelnde Systemfähigkeiten, nicht ausreichend berücksichtigen. Die Organisationen betonen, dass die Integration von KI in Medizinprodukte zur Diagnose, Behandlung oder Patientenüberwachung Risiken birgt, die von den aktuellen Medizinprodukteregulierungen nicht ausdrücklich abgedeckt sind. Ebenso könnte KI in Kinderspielzeug unvorhergesehene Gefahren mit sich bringen. Die Ausklammerung dieser Sektoren würde eine regulatorische Lücke schaffen und Verbraucher potenziell anfällig machen. Darüber hinaus werden die vorgeschlagenen Änderungen als Ursache für erhöhte regulatorische Komplexität und rechtliche Unsicherheit angesehen, anstatt als Vereinfachung, da die KI-Aufsicht über mehrere, unterschiedliche sektorale Gesetze fragmentiert würde.