EU KI-Gesetz: Ein Überblick über die neuen Regelungen

Die Europäische Union hat neue Regeln für den Umgang mit Künstlicher Intelligenz (KI) eingeführt, die am 1. August 2024 in Kraft getreten sind. Wie die Zeit unter Berufung auf eine Meldung der dpa berichtete, zielt das sogenannte "KI-Gesetz" (auch bekannt als "AI Act") darauf ab, den Einsatz von KI in der EU vertrauenswürdig zu gestalten und gleichzeitig die Grundrechte der Bürger zu schützen. Das Gesetz verfolgt einen risikobasierten Ansatz und teilt KI-Systeme in verschiedene Kategorien ein.

Risikokategorien des KI-Gesetzes

Das KI-Gesetz unterscheidet vier Risikokategorien für KI-Systeme, wie auf der Webseite der Europäischen Kommission erläutert wird:

• Minimales Risiko: KI-Systeme mit minimalem Risiko, wie beispielsweise Spamfilter oder KI-gestützte Empfehlungssysteme, unterliegen keinen besonderen Verpflichtungen. Unternehmen können jedoch freiwillig zusätzliche Verhaltenskodizes anwenden.
• Spezifisches Transparenzrisiko: Für KI-Systeme wie Chatbots besteht eine Transparenzpflicht. Nutzer müssen darüber informiert werden, dass sie mit einer Maschine interagieren. Bestimmte KI-generierte Inhalte, einschließlich Deepfakes, müssen gekennzeichnet werden. Ebenso muss die Verwendung von Systemen zur biometrischen Kategorisierung oder Emotionserkennung offengelegt werden.
• Hohes Risiko: KI-Systeme mit hohem Risiko, die beispielsweise im Recruiting, bei der Kreditvergabe oder für autonome Roboter eingesetzt werden, unterliegen strengen Anforderungen. Dazu gehören unter anderem Risikominderungssysteme, qualitativ hochwertige Datensätze, Protokollierung der Aktivitäten, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht sowie ein hohes Maß an Robustheit, Genauigkeit und Cybersicherheit.
• Inakzeptables Risiko: KI-Systeme, die eine eindeutige Bedrohung für die Grundrechte der Menschen darstellen, sind verboten. Wie die Zeit berichtete, fallen darunter Systeme, die das menschliche Verhalten manipulieren, um den freien Willen der Nutzer zu umgehen (z. B. Sprachassistenten in Spielzeugen, die Kinder zu gefährlichem Verhalten ermutigen), Systeme für "Social Scoring" durch Regierungen oder Unternehmen sowie bestimmte Anwendungen der vorausschauenden Polizeiarbeit. Auch einige Anwendungen biometrischer Systeme, wie z. B. Emotionserkennung am Arbeitsplatz, sind verboten. Wie artificialintelligenceact.eu ausführt, sind auch Praktiken wie Social Scoring, wie sie in China angewendet werden, verboten.

General Purpose AI Modelle

Das KI-Gesetz enthält auch Regelungen für sogenannte "General Purpose AI"-Modelle. Diese hochleistungsfähigen KI-Modelle können eine Vielzahl von Aufgaben erfüllen, wie beispielsweise die Generierung von menschenähnlichem Text. Wie auf artificialintelligenceact.eu erläutert, soll das Gesetz Transparenz entlang der Wertschöpfungskette gewährleisten und mögliche systemische Risiken dieser Modelle adressieren.

Umsetzung und Durchsetzung

Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, nationale Behörden zu benennen, die die Anwendung der Regeln überwachen und Marktaufsichtsaktivitäten durchführen. Das KI-Büro der Kommission wird die zentrale Durchführungsstelle auf EU-Ebene sein und die Regeln für General Purpose AI-Modelle durchsetzen. Wie die EU-Kommission mitteilte, werden Unternehmen, die gegen die Regeln verstoßen, mit Geldstrafen belegt, die bis zu 7 % des weltweiten Jahresumsatzes betragen können. Bis zur vollständigen Umsetzung im August 2026 hat die Kommission den "AI Pact" ins Leben gerufen, der KI-Entwickler dazu einlädt, die wichtigsten Verpflichtungen des KI-Gesetzes freiwillig vor den gesetzlichen Fristen zu übernehmen.

Zusätzliche Informationen

Weitere Informationen zum KI-Gesetz finden Sie auf der Website der Europäischen Kommission und auf spezialisierten Plattformen wie artificialintelligenceact.eu.

Quellen

• https://www.zeit.de/news/2025-02/01/eu-setzt-regeln-fuer-den-umgang-mit-ki-in-kraft
• https://ec.europa.eu/commission/presscorner/detail/en/IP_24_4123
• https://artificialintelligenceact.eu/
• https://artificialintelligenceact.eu/de/