EU AI Act
Der EU AI Act (Verordnung EU 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er soll sicherstellen, dass KI-Systeme in der EU sicher sind, Grundrechte achten und im Einklang mit europäischen Werten eingesetzt werden – während gleichzeitig Innovation gefördert wird.
Anwendungsbereich
Betroffen sind nicht nur Anbieter von KI, sondern auch Nutzer von KI.
Der EU AI Act teilt KI-Anwendungen in vier Risikoklassen ein. Je höher das Risiko für Menschen und deren Rechte, desto strenger die Vorschriften:
| Risikoklasse | Beispiele | Auflagen / Regeln |
|---|---|---|
| Unannehmbar | Social Scoring, Emotionserkennung am Arbeitsplatz, Biometrie-Scanning | Komplett verboten (Verbot gilt seit Feb. 2025). |
| Hohes Risiko | KI für Bewerbungsauswertungen, Kreditprüfungen, kritische Infrastruktur | Strenge Auflagen: Risikomanagement, Datenqualität & menschliche Aufsicht. |
| Begrenzt | Chatbots, KI-Texte, Generierung von Bildern/Videos (Deepfakes) | Transparenzpflicht: Nutzer müssen wissen, wenn sie mit KI interagieren oder KI-Inhalte sehen. |
| Minimal | Spamfilter, KI in Videospielen, einfache Algorithmen | Keine Pflichten (freiwillige Verhaltenskodizes). |
Wenn du KI (wie ChatGPT, Midjourney oder Claude) zur Erstellung von Texten oder Bildern nutzt, fallen deine Anwendungen meist in die Kategorie „Begrenztes Risiko“:
- Transparenzpflicht bei KI-Inhalten: Wenn Artikel oder Bilder synthetisch generiert werden, sollten bzw. müssen diese klar als KI-generiert gekennzeichnet werden.
- KI-Kompetenz (KI-Literacy): Wer KI beruflich oder gewerblich einsetzt, ist verpflichtet, ein grundlegendes Verständnis für die Funktionsweise und Risiken der Tools zu besitzen.
- Menschliche Kontrolle (Human in the Loop): Inhalte sollten nicht ungeprüft übernommen werden. Faktenprüfungen verhindern Falschinformationen und rechtliche Haftungsrisiken.
Der EU AI Act tritt offiziell in allen EU-Mitgliedsstaaten in Kraft.
Die Verbote für KI mit unannehmbarem Risiko (z. B. Social Scoring) greifen rechtlich.
Vorgaben für allgemeine KI-Modelle (wie GPT-4, Gemini) bezüglich Transparenz und Urheberrecht treten in Kraft.
Die Verordnung gilt nahezu vollständig. Strenge Pflichten für Hochrisiko-Systeme greifen.
Anforderungen an den EU AI Act
- Transparenz aller eingesetzen KI Verfahren
- kontinuierliche regelmäßige Überprüfung der Use-Cases
- Risiko-Klassifizierung der KI Systeme
- Basis Sensiblisierung zum Umgang mit KI Systemen
- Klare Leitlinien zur KI Nutzung