Die vier Risikoklassen des EU AI Act

Die KI-Verordnung (EU) 2024/1689 regelt KI-Systeme risikobasiert: Je höher das Risiko für Menschen, desto strenger die Pflichten. Dieser Leitfaden erklärt vier vereinfachte Spielzonen – verboten, Hochrisiko, Transparenz und minimales Risiko – mit Beispielfällen aus dem interaktiven Trainer AI ACT BLITZ. Maßgeblich ist immer die jeweils anwendbare Fassung der Verordnung, inklusive Übergangsfristen; diese Seite ersetzt keine Rechtsberatung.

Ein Lernleitfaden von Helmut Auerbach, Mag. iur., CIPP/E.

Die Spielzonen sind eine Lernhilfe, keine vier abschließenden rechtlichen Schubladen. Transparenzpflichten können etwa neben Hochrisikopflichten gelten. Für eine reale Einordnung zählen der konkrete Verwendungszweck, die Rolle der Beteiligten und gesetzliche Ausnahmen.

🔴 Verbotene Praktiken (Art. 5)

Bestimmte KI-Praktiken sind in der EU grundsätzlich untersagt – etwa weil sie in die Entscheidungsfreiheit oder Würde eingreifen. Das Verbot gilt seit dem 2. Februar 2025. Verstöße können mit bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes geahndet werden (Art. 99).

Typische Beispiele aus dem Trainer:

• Eine Behörde nutzt einen KI-Sozialscore aus Freizeitverhalten, um sachfremd Sozialleistungen zu verweigern.
  Art. 5 Abs. 1 c: Social Scoring mit sachfremder oder unverhältnismäßiger Benachteiligung ist verboten – auch durch private Akteure.
• Die Polizei identifiziert live per KI alle Passanten am Bahnhof, ohne eine gesetzliche Ausnahme.
  Art. 5 Abs. 1 h: Verbot bei Strafverfolgungszwecken im öffentlichen Raum; eng begrenzte Ausnahmen bleiben möglich.
• Ein Tool liest per Webcam die Emotionen der Mitarbeiter im Open Space, um Motivation zu messen.
  Art. 5 Abs. 1 f: Emotionserkennung am Arbeitsplatz ist grundsätzlich verboten; medizinische oder Sicherheitszwecke sind ausgenommen.
• Ein Start-up scrapt ungezielt Millionen Gesichtsfotos aus dem Netz für eine Erkennungsdatenbank.
  Art. 5 Abs. 1 lit. e: Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Überwachungsaufnahmen ist verboten.

🟠 Hochrisiko (Art. 6, Anhänge I und III)

Hochrisiko-Systeme sind erlaubt, aber mit umfangreichen Pflichten: Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht und mehr. Betroffen sind unter anderem Bewerbungsverfahren, Kreditvergabe, Bildung, Justiz und kritische Infrastruktur.

• Ein Algorithmus sortiert Bewerbungen vor und rankt Kandidaten für die Personalabteilung.
  Anhang III Nr. 4 lit. a: Vorauswahl und Ranking von Bewerbungen ist Hochrisiko.
• Eine KI entscheidet mit, welche Mitarbeiter befördert und welche gekündigt werden.
  Anhang III Nr. 4 lit. b: Entscheidungen über Beförderung und Beendigung sind Hochrisiko.
• Eine Bank bewertet die Kreditwürdigkeit von Privatkunden automatisiert per Scoring-Modell.
  Anhang III Nr. 5 lit. b: Kreditwürdigkeitsprüfung natürlicher Personen ist Hochrisiko; Systeme zur Aufdeckung von Finanzbetrug sind ausgenommen.
• Eine KI korrigiert und bewertet Abschlussprüfungen an einer Universität.
  Anhang III Nr. 3 lit. b: Bewertung von Lernergebnissen und Prüfungen ist Hochrisiko.

🟡 Transparenzpflichten (Art. 50)

Für bestimmte KI-Systeme und Inhalte bestehen Informations- oder Kennzeichnungspflichten – beispielsweise bei der Interaktion mit Chatbots oder bei Deepfakes. Art. 50 unterscheidet dabei nach Rolle und Anwendung und enthält Ausnahmen. Transparenzpflichten können zusätzlich zu Hochrisikopflichten bestehen.

• Ein Support-Chatbot beantwortet Kundenfragen – Nutzer müssen wissen, dass keine Menschen antworten.
  Art. 50 Abs. 1: Offenlegung der Interaktion mit einem KI-System, sofern das nicht offensichtlich ist.
• Ein Werbevideo imitiert per KI einen realen Moderator und wirkt wie dessen echte Produktempfehlung.
  Art. 50 Abs. 4: Betreiber müssen diesen Deepfake offenlegen. Persönlichkeits- und Werberecht gelten zusätzlich.
• Der CEO will das Deepfake-Testimonial heute live schalten – ohne jeden Hinweis.
  Art. 50 Abs. 4: Deepfakes sind offenzulegen; ein Livegang ohne Hinweis ist unzulässig.
• Ein Newsportal veröffentlicht KI-Texte zu politischen Tagesthemen ohne menschliche Inhaltsprüfung oder redaktionelle Kontrolle.
  Art. 50 Abs. 4: Offenlegung; Ausnahme bei menschlicher Prüfung/redaktioneller Kontrolle und übernommener redaktioneller Verantwortung.

🟢 Minimales Risiko

Viele alltägliche Anwendungen, etwa einfache Spamfilter oder KI-Spielgegner, können im konkreten Verwendungszweck außerhalb der Verbote und Hochrisikoeinstufung liegen. „Minimal“ heißt aber nicht „unreguliert“: Datenschutz und sonstige Gesetze gelten weiterhin.

• Ein Spam-Filter sortiert Werbemails automatisch in einen separaten Ordner.
  Im beschriebenen einfachen Anwendungsfall keine Verbots- oder Hochrisikoeinstufung. Datenschutz und sonstige anwendbare Pflichten bleiben zu prüfen.
• Eine Musik-App empfiehlt Songs basierend auf dem Hörverlauf.
  Empfehlungen im Streaming: minimales Risiko.
• Eine Rechtschreibhilfe korrigiert Grammatik in E-Mails.
  Schreibhilfen: minimales Risiko.

Im Original nachlesen

Grundlage: Verordnung (EU) 2024/1689 auf EUR-Lex, insbesondere Art. 5, 6, 50 und die Anhänge I und III. EUR-Lex verlinkt auch die jeweils aktuelle Fassung. Die Beispiele sind Lernfälle; prüfe bei praktischen Entscheidungen die geltenden Vorschriften und Anwendungsfristen.

Selbst testen: das kostenlose AI Act Quiz

Alle Beispiele oben stammen aus AI ACT BLITZ. AI Act Quiz starten – beginne mit fünf Fällen ohne Zeitdruck und lies die Erklärungen zu deinen Antworten. Weitere Details stehen in den Spielhinweisen & Quellen.