EU AI Act – die Richtlinien zur Klassifizierung Hochrisiko-KI erklärt

Der AI Act der Europäischen Union macht einen bedeutenden Schritt nach vorn mit der jüngsten Veröffentlichung von Entwurfsrichtlinien zur Definition von "Hochrisiko"-KI-Systemen. Diese Entwicklung ist entscheidend für das Verständnis der regulatorischen Landschaft künstlicher Intelligenz in Europa, da diese Klassifizierungen die strengen Compliance-Verpflichtungen für Entwickler und Anwender von KI-Technologien bestimmen werden. Die Richtlinien zielen darauf ab, Klarheit darüber zu schaffen, welche KI-Anwendungen der strengsten Aufsicht unterliegen werden, um sicherzustellen, dass Grundrechte und Sicherheit Priorität haben. Diese Richtlinien legen Hochrisiko-KI basierend auf ihrer beabsichtigten Verwendung und ihrem potenziellen Einfluss auf Einzelpersonen dar. Systeme, die in kritischer Infrastruktur, Bildung, Beschäftigung, wesentlichen privaten und öffentlichen Diensten, Strafverfolgung, Migration und demokratischen Prozessen eingesetzt werden, werden besonders geprüft. Die Klassifizierung hängt von Faktoren ab, wie dem Potenzial der KI, Grundrechte zu verletzen, physische oder psychische Schäden zu verursachen oder zu diskriminierenden Ergebnissen zu führen, und schafft so einen differenzierten Rahmen für die Risikobewertung. Die Auswirkungen dieser Klassifizierung sind weitreichend und betreffen eine Vielzahl von Unternehmen und öffentlichen Stellen, die innerhalb der EU tätig sind. Unternehmen, die als Hochrisiko eingestufte KI-Systeme entwickeln oder einsetzen, werden vor dem Markteintritt dieser Technologien erheblichen Anforderungen gegenüberstehen, darunter strenge Konformitätsbewertungen, Risikomanagementsysteme und Datenverwaltungs protokolle. Dieser Rahmen zielt darauf ab, Vertrauen in KI zu schaffen, indem er Rechenschaftspflicht und Transparenz für Technologien mit tiefgreifenden gesellschaftlichen Auswirkungen gewährleistet.