Published on

Art. 5 EU AI Act: Verbotene Praktiken im Überblick

Authors

Art. 5 markiert die oberste Stufe des risikobasierten Ansatzes: nicht Auflagen, sondern ein Verbot. Wo Art. 6 darüber entscheidet, unter welchen Pflichten ein KI-System betrieben werden darf, entscheidet Art. 5 darüber, ob es überhaupt in der Union in Verkehr gebracht, in Betrieb genommen oder verwendet werden darf. Die Norm zählt einen abschließenden Katalog von Praktiken auf, deren Risiko für Grundrechte der Unionsgesetzgeber als unannehmbar bewertet hat.

Normtext

Art. 5 Abs. 1: Folgende Praktiken im KI-Bereich sind verboten:

(a) das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das Techniken der unterschwelligen Beeinflussung außerhalb des Bewusstseins einer Person oder absichtlich manipulative oder täuschende Techniken einsetzt, um das Verhalten wesentlich zu verändern und dadurch einen erheblichen Schaden zu verursachen;

(b) die Ausnutzung der Schutzbedürftigkeit einer Person oder Personengruppe aufgrund von Alter, Behinderung oder einer bestimmten sozialen oder wirtschaftlichen Situation;

(c) die Bewertung oder Einstufung von Personen anhand ihres Sozialverhaltens oder persönlicher Merkmale (Social Scoring), die zu einer ungerechtfertigten oder unverhältnismäßigen Schlechterstellung führt;

(d) die Risikobewertung natürlicher Personen allein zur Vorhersage der Begehung einer Straftat ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen;

(e) das ungezielte Auslesen (Scraping) von Gesichtsbildern aus dem Internet oder aus Videoüberwachung zum Aufbau oder zur Erweiterung von Gesichtserkennungsdatenbanken;

(f) die Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen;

(g) die biometrische Kategorisierung zur Ableitung sensibler Merkmale (etwa Rasse, politische Einstellung, Gewerkschaftszugehörigkeit, religiöse Überzeugung, Sexualleben);

(h) die Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken, vorbehaltlich eng begrenzter Ausnahmen.

(Wortlaut sinngemäß zusammengefasst; die Ausnahmen zu Buchstabe h regeln Art. 5 Abs. 1 lit. h sowie Abs. 2–7.)

Einordnung

Art. 5 bildet zusammen mit Art. 6 die Architektur der Risikoklassen ab. Über dem Hochrisiko-Regime steht das Verbot; darunter die Transparenzpflichten des Art. 50 und der unregulierte Bereich. Anders als bei Art. 6 ist hier keine Konformitätsbewertung vorgesehen — ein verbotenes System wird nicht durch Pflichterfüllung zulässig. Die Vorschrift ist deshalb nicht Teil von Kapitel III, sondern steht in Kapitel II („Verbotene Praktiken") als eigenständiger, vorgelagerter Filter.

Tatbestandlich ist Art. 5 kein einheitlicher Verbotstatbestand, sondern ein Bündel von acht selbständigen Verboten mit je eigenen Tatbestandsmerkmalen. Mehrere von ihnen — namentlich lit. a, b und c — verlangen ein zusätzliches Schadens- oder Schlechterstellungselement; sie verbieten nicht die Technik als solche, sondern ihren schädigenden Einsatz. Andere — lit. e und g — sind näher an einem abstrakten Gefährdungsverbot.

Erwägungsgründe

Die Auslegung wird maßgeblich durch die Erwägungsgründe 28 bis 44 geprägt. Sie begründen, warum bestimmte Praktiken mit den Werten der Union — Menschenwürde, Freiheit, Gleichheit, Schutz der Grundrechte — unvereinbar sind. Tragend ist der Gedanke, dass diese Systeme nicht durch technische Sorgfalt beherrschbar werden, weil das Risiko in ihrem Zweck selbst liegt. Für die manipulativen Techniken (lit. a) betont der Verordnungsgeber die Aushöhlung der Autonomie; für das Social Scoring (lit. c) die Übertragung von Bewertungen aus einem Kontext in einen sachfremden anderen. Bei der biometrischen Echtzeit-Identifizierung (lit. h) wägen die Erwägungsgründe ausdrücklich zwischen Strafverfolgungsinteresse und der abschreckenden Wirkung flächendeckender Überwachung ab — daraus erklärt sich die enge, eng auszulegende Ausnahmesystematik.

Auslegung

Manipulation und Ausnutzung (lit. a, b). Beide Tatbestände verlangen mehr als die bloße Beeinflussung. Lit. a setzt eine wesentliche Verhaltensänderung und einen erheblichen Schaden voraus; gewöhnliche, transparente Werbung fällt nicht darunter. Lit. b verzichtet auf das Bewusstseinskriterium, knüpft dafür an eine spezifische Schutzbedürftigkeit an. Die Abgrenzung zwischen zulässiger Personalisierung und verbotener Ausnutzung ist die zentrale Auslegungsfrage und wird erst durch Leitlinien und Verwaltungspraxis Kontur gewinnen.

Social Scoring (lit. c). Das Verbot trifft nicht jede Bewertung, sondern die kontextübergreifende Schlechterstellung: Daten aus einem Lebensbereich führen zu Nachteilen in einem unverbundenen anderen, oder die Schlechterstellung ist unverhältnismäßig. Sektorale, sachlich begründete Bonitäts- oder Risikobewertungen sind damit nicht per se erfasst — sie können jedoch in das Hochrisiko-Regime nach Anhang III fallen.

Predictive Policing (lit. d). Verboten ist die Vorhersage der Begehung einer Straftat ausschließlich auf Grundlage von Profiling oder Persönlichkeitsmerkmalen. Stützt sich eine Bewertung zusätzlich auf objektive, überprüfbare, mit der Tat verbundene Tatsachen, greift das Verbot nicht. Das Wort „ausschließlich" trägt hier die gesamte Abgrenzungslast.

Biometrie (lit. e, f, g, h). Diese vier Verbote bilden den biometrischen Kern. Das ungezielte Scraping (lit. e) ist absolut formuliert. Emotionserkennung (lit. f) ist nur am Arbeitsplatz und in Bildungseinrichtungen verboten, mit Ausnahme medizinischer und Sicherheitszwecke. Die biometrische Kategorisierung (lit. g) verbietet die Ableitung sensibler Merkmale, nicht jede biometrische Verarbeitung. Die Echtzeit-Fernidentifizierung zu Strafverfolgungszwecken (lit. h) ist der einzige Tatbestand mit einem ausdifferenzierten Ausnahme- und Genehmigungsregime: Sie ist nur in eng umrissenen Lagen, unter vorheriger oder unverzüglicher richterlicher bzw. behördlicher Genehmigung und nach mitgliedstaatlicher Umsetzung zulässig. Die Ausnahmen sind eng auszulegen; sie machen aus dem Grundsatz-Verbot keine Generalerlaubnis.

Abgrenzung zu Art. 6. Ein verbotenes System wird nicht nach Art. 6 beurteilt — die Prüfung endet bei Art. 5. Erst wenn keine verbotene Praktik vorliegt, stellt sich die Frage der Hochrisiko-Einstufung. Die Reihenfolge der Prüfung ist daher zwingend: zuerst Art. 5, dann Art. 6.

Praxis-Konsequenzen

Für Provider und Deployer ist Art. 5 die erste Station jeder Klassifizierung, nicht eine Randnotiz. Wer ein System konzipiert, das in die Nähe der acht Tatbestände gerät, muss die Nicht-Erfüllung belegbar machen — etwa durch eine dokumentierte Zweckbestimmung, die das jeweilige Schadens- oder Ausschließlichkeitsmerkmal ausschließt. Anders als bei Art. 6 gibt es keine Heilung durch Konformitätsbewertung: Ein verbotenes System ist und bleibt unzulässig. Verstöße gegen Art. 5 sind nach Art. 99 mit dem höchsten Sanktionsrahmen der Verordnung bedroht — bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes. Die Selbsteinordnung „nicht von Art. 5 erfasst" sollte deshalb als versionierter, nachprüfbarer Nachweis geführt werden, nicht als formloser Vermerk. Maßgeblich für die Anwendbarkeit der Verordnung insgesamt bleibt der Forcing Event am 02.12.2027 nach den Übergangsregeln des Art. 113; das Verbotsregime des Art. 5 gehört zu den am frühesten greifenden Teilen der Verordnung.

Verweise

Eine systematische Operationalisierung der KI-Verordnung als Trust-Infrastructure: aegira.ai.

Discuss on Twitter • View on GitHub