EU AI Act
Der EU AI Act (Verordnung EU 2024/1689) ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Er soll sicherstellen, dass KI-Systeme in der EU sicher sind, Grundrechte achten und im Einklang mit europäischen Werten eingesetzt werden – während gleichzeitig Innovation gefördert wird.
Anwendungsbereich
Betroffen sind nicht nur Anbieter von KI, sondern auch Nutzer von KI.
Der EU AI Act teilt KI-Anwendungen in vier Risikoklassen ein. Je höher das Risiko für Menschen und deren Rechte, desto strenger die Vorschriften:
| Risikoklasse | Beispiele | Auflagen / Regeln |
|---|---|---|
| Unannehmbar | Social Scoring, Emotionserkennung am Arbeitsplatz, Biometrie-Scanning | Komplett verboten (Verbot gilt seit Feb. 2025). |
| Hohes Risiko | KI für Bewerbungsauswertungen, Kreditprüfungen, kritische Infrastruktur | Strenge Auflagen: Risikomanagement, Datenqualität & menschliche Aufsicht. |
| Begrenzt | Chatbots, KI-Texte, Generierung von Bildern/Videos (Deepfakes) | Transparenzpflicht: Nutzer müssen wissen, wenn sie mit KI interagieren oder KI-Inhalte sehen. |
| Minimal | Spamfilter, KI in Videospielen, einfache Algorithmen | Keine Pflichten (freiwillige Verhaltenskodizes). |
Wenn du KI (wie ChatGPT, Midjourney oder Claude) zur Erstellung von Texten oder Bildern nutzt, fallen deine Anwendungen meist in die Kategorie „Begrenztes Risiko“:
- Transparenzpflicht bei KI-Inhalten: Wenn Artikel oder Bilder synthetisch generiert werden, sollten bzw. müssen diese klar als KI-generiert gekennzeichnet werden.
- KI-Kompetenz (KI-Literacy): Wer KI beruflich oder gewerblich einsetzt, ist verpflichtet, ein grundlegendes Verständnis für die Funktionsweise und Risiken der Tools zu besitzen.
- Menschliche Kontrolle (Human in the Loop): Inhalte sollten nicht ungeprüft übernommen werden. Faktenprüfungen verhindern Falschinformationen und rechtliche Haftungsrisiken.
Der EU AI Act tritt offiziell in allen EU-Mitgliedsstaaten in Kraft.
Die Verbote für KI mit unannehmbarem Risiko (z. B. Social Scoring) greifen rechtlich.
Vorgaben für allgemeine KI-Modelle (wie GPT-4, Gemini) bezüglich Transparenz und Urheberrecht treten in Kraft.
Die Verordnung gilt nahezu vollständig. Strenge Pflichten für Hochrisiko-Systeme greifen.
Anforderungen an den EU AI Act
- Transparenz aller eingesetzen KI Verfahren
- kontinuierliche regelmäßige Überprüfung der Use-Cases
- Risiko-Klassifizierung der KI Systeme
- Basis Sensiblisierung zum Umgang mit KI Systemen
- Klare Leitlinien zur KI Nutzung
Kennzeichnungspflicht
Gemäß Artikel 50 des EU AI Act (KI-Verordnung) müssen Inhalte primär dann gekennzeichnet werden, wenn sie von Künstlicher Intelligenz erzeugt oder spürbar manipuliert wurden und für Menschen nicht sofort als solche erkennbar sind.
Welche Inhalte konkret unter die Kennzeichnungspflicht fallen:
Deepfakes (Audio, Bild & Video)
Was: Fotos, Sprachaufnahmen oder Videos, die real existierende Personen, Gegenstände, Orte oder Ereignisse so darstellen oder manipulieren, dass sie täuschend echt wirken.
Pflicht: Es muss deutlich sichtbar oder hörbar gemacht werden, dass das Material KI-generiert/verändert wurde (z. B. durch Einblendungen oder Inhalts-Label).
Ausnahme: Rein künstlerische, satirische oder fiktionale Werke sind eingeschränkt ausgenommen, wenn ein Label das Werk beeinträchtigen würde, es sei denn, es betrifft reale Personen.
Direkte KI-Interaktionen (z. B. Chatbots & Voicebots)
Was: Systematischer Austausch über Chatbots, Kundenservice-Bots oder automatisierte Telefonansagen.
Pflicht: Nutzer müssen vorab oder zu Beginn informiert werden, dass sie mit einer KI und nicht mit einem Menschen kommunizieren.
Ausnahme: Wenn es für den Nutzer aus dem Kontext völlig offensichtlich ist.
Texte im öffentlichen Interesse
Was: KI-generierte oder stark KI-bearbeitete Texte, die die Öffentlichkeit über gesellschaftliche, politische, wirtschaftliche oder sonstige Themen von allgemeinem Interesse informieren sollen (z. B. Nachrichten, Blogbeiträge, Pressemitteilungen).
Pflicht: Hinweis am Text oder auf der Seite (z. B. „Dieser Text wurde mithilfe von KI erstellt“).
Ausnahme:
Reine Standard-Marketingtexte oder Produktbeschreibungen (sofern sie keine sensiblen Themen wie Gesundheit berühren).
Wenn eine menschliche Person die redaktionelle Verantwortung übernimmt und den Text vor Veröffentlichung inhaltlich prüft und freigibt.
Anbieter von KI-Generatoren (Generative KI)
Was: Entwickler/Anbieter von Bild-, Video-, Text- oder Musikgeneratoren (z. B. Midjourney, ChatGPT, ElevenLabs).
Pflicht: Sie müssen dafür sorgen, dass die Ausgaben technisch mit maschinenlesbaren Wasserzeichen oder Metadaten versehen werden, damit Plattformen sie automatisch als KI-Inhalt identifizieren können.
Was muss NICHT gekennzeichnet werden?
Hilfswerkzeuge: Reine KI-Rechtschreibkorrektur, Grammatikprüfungen, Textformatierungen oder einfache Übersetzungen.
Menschlich kontrollierte Inhalte: Wenn KI nur als Assistenz im Erstellungsprozess dient, das Endprodukt aber maßgeblich von einem Menschen geprägt, kontrolliert und verantwortet wurde.