Pressemitteilung des Rats der Europäischen Union vom 21.05.2024
Der Rat hat heute ein bahnbrechendes Gesetz zur Harmonisierung der Vorschriften für künstliche Intelligenz - das sogenannte Gesetz über künstliche Intelligenz - gebilligt. Bei diesem richtungsweisenden Rechtsakt wird ein "risikobasierter" Ansatz verfolgt. Das bedeutet: Je höher das Risiko eines Schadens für die Gesellschaft ist, desto strenger sind die Vorschriften. Die Vorschrift ist die weltweit erste ihrer Art und kann zu einem globalen Standard für die Regulierung von KI werden.
Mit der neuen Vorschrift soll die Entwicklung und Nutzung sicherer und vertrauenswürdiger KI-Systeme sowohl durch private als auch öffentliche Akteure im gesamten EU-Binnenmarkt gefördert werden. Gleichzeitig soll mit der Vorschrift die Achtung der Grundrechte der EU-Bürgerinnen und -Bürger gewährleistet sowie Investitionen und Innovation im Bereich der künstlichen Intelligenz in Europa angekurbelt werden. Das KI-Gesetz gilt nur für Bereiche innerhalb des EU-Rechts und sieht Ausnahmen für Systeme vor, die ausschließlich militärischen und verteidigungspolitischen Zwecken sowie Forschungszwecken dienen.
(...)
Klassifizierung von KI-Systemen als Hochrisiko-Systeme und verbotene KI-Praktiken
In der neuen Vorschrift werden verschiedene Arten künstlicher Intelligenz nach Risiken kategorisiert. Für KI-Systeme mit begrenztem Risiko würden nur sehr geringe Transparenzpflichten gelten, während Hochrisiko-KI-Systeme zugelassen würden, aber bestimmte Anforderungen und Verpflichtungen erfüllen müssten, um Zugang zum EU-Markt zu erhalten. KI-Systeme wie z. B. kognitive Verhaltensmanipulation und Sozialkreditsysteme werden in der EU verboten, da ihr Risiko als unannehmbar gilt. Verboten sind auch KI-Anwendungen für vorausschauende Polizeiarbeit ("predictive policing") auf der Grundlage von Profiling sowie Systeme, die biometrische Informationen nutzen, um auf die Rasse, die Religion oder sexuelle Ausrichtung einer Person zu schließen.
KI-Modelle mit allgemeinem Verwendungszweck
Mit dem KI-Gesetz wird auch auf die Verwendung von KI-Modellen mit allgemeinem Verwendungszweck ("general purpose artificial intelligence systems", GPAI) eingegangen.
GPAI-Modelle, die keine systemischen Risiken bergen, werden einigen begrenzten Anforderungen, z. B. in Bezug auf die Transparenz, unterliegen, aber diejenigen mit systemischen Risiken müssen strengeren Vorschriften genügen.
Eine neue Governance-Architektur
Um eine ordnungsgemäße Durchsetzung zu gewährleisten, werden mehrere Leitungsgremien eingerichtet:
- ein Amt für Künstliche Intelligenz ("KI-Amt") innerhalb der Kommission zur Durchsetzung der gemeinsamen Vorschriften in der gesamten EU
- ein wissenschaftliches Gremium unabhängiger Sachverständiger, zur Unterstützung der Durchsetzungsmaßnahmen
- ein koordinierender Ausschuss für künstliche Intelligenz (KI-Ausschuss) aus Vertretern der Mitgliedstaaten, der die Kommission und die Mitgliedstaaten bei der kohärenten und wirksamen Anwendung des KI-Gesetzes berät und unterstützt
- ein Beratungsforum für Interessenträger, das dem KI-Ausschuss und der Kommission technisches Fachwissen zur Verfügung stellt
Sanktionen
Die Geldbußen für Verstöße gegen das KI-Gesetz werden als Prozentsatz des weltweiten Jahresumsatzes des zuwiderhandelnden Unternehmens im vorangegangenen Geschäftsjahr bzw. als im Voraus festgelegter Betrag festgelegt, je nachdem, welcher Betrag höher ist. KMU und Start-ups werden mit verhältnismäßigen Geldbußen belegt.
Transparenz und Schutz der Grundrechte
Bevor einige Einrichtungen, die öffentliche Dienste erbringen, ein Hochrisiko-KI-System einsetzen, müssen die Auswirkungen auf die Grundrechte bewertet werden. Zudem wird durch die Verordnung für mehr Transparenz bei der Entwicklung und Verwendung von Hochrisiko-KI-Systemen gesorgt. Hochrisiko-KI-Systeme sowie bestimmte Nutzer eines Hochrisiko-KI-Systems, die öffentliche Einrichtungen sind, werden dazu verpflichtet sein, sich in der EU-Datenbank für Hochrisiko-KI-Systeme zu registrieren, und Nutzer eines Emotionserkennungssystems werden die von dem System betroffenen natürlichen Personen entsprechend informieren müssen.
Maßnahmen zur Innovationsförderung
Das KI-Gesetz bietet einen innovationsfreundlichen Rechtsrahmen und soll faktengestütztes regulatorisches Lernen fördern. In der neuen Rechtsvorschrift ist vorgesehen, dass die regulatorischen KI-Reallabore, die eine kontrollierte Umgebung für die Entwicklung, Testung und Validierung innovativer KI-Systeme ermöglichen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollten.
Nächste Schritte
Nach der Unterzeichnung durch die Präsidentin des Europäischen Parlaments und den Präsidenten des Rates wird der Gesetzgebungsakt in den kommenden Tagen im Amtsblatt der Europäischen Union veröffentlicht und tritt 20 Tage nach der Veröffentlichung in Kraft. Die neue Verordnung wird - mit Ausnahme einiger spezifischer Bestimmungen - zwei Jahre nach ihrem Inkrafttreten zur Anwendung kommen.
(...)