Seit dem 2. Februar 2025 sind die in Art. 5 EU AI Act aufgeführten KI-Praktiken in der gesamten EU verboten – mit dem schärfsten Sanktionsrahmen der gesamten Verordnung: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes (Art. 99 Abs. 3). Die Kommission hat am 4. Februar 2025 die Leitlinien C(2025) 884 final veröffentlicht, die Auslegungsfragen klären. Schweizer KMU sind betroffen, sobald sie ein verbotenes System in der EU in Verkehr bringen, in Betrieb nehmen oder dessen Output dort genutzt wird (Art. 2 Abs. 1 lit. c).

Dieser Beitrag erklärt jede der acht Verbotskategorien mit realistischen Beispielen aus dem Schweizer KMU-Alltag:

• Unterschwellige Manipulation (Art. 5 Abs. 1 lit. a)
• Ausnutzung von Vulnerabilität (Art. 5 Abs. 1 lit. b)
• Social Scoring (Art. 5 Abs. 1 lit. c)
• Prädiktive Polizeiarbeit auf Profiling-Basis (Art. 5 Abs. 1 lit. d)
• Ungezieltes Scraping von Gesichtsbildern (Art. 5 Abs. 1 lit. e)
• Emotionserkennung am Arbeitsplatz / in Bildung (Art. 5 Abs. 1 lit. f)
• Biometrische Kategorisierung nach geschützten Merkmalen (Art. 5 Abs. 1 lit. g)
• Echtzeit-Remote-Biometrie im öffentlichen Raum für Strafverfolgung (Art. 5 Abs. 1 lit. h)

Die acht Verbote sind nicht akademisch: Workplace-Emotion-AI und HR-Scoring-Tools sind im KMU-Markt verbreitet – oft ohne dass die einsetzenden Unternehmen wissen, dass sie eine verbotene Praktik nutzen.

Art. 5 Abs. 1 lit. a verbietet KI-Systeme, die unterschwellige Techniken jenseits des menschlichen Bewusstseins oder absichtlich manipulative oder täuschende Techniken einsetzen, mit dem Ziel oder Effekt, das Verhalten einer Person oder Gruppe wesentlich zu verzerren, indem die Fähigkeit zu informierter Entscheidung merklich beeinträchtigt wird und dies erheblichen Schaden verursacht oder voraussichtlich verursacht. Drei Tatbestandsmerkmale müssen kumulativ erfüllt sein: unterschwellig/manipulativ, wesentliche Verhaltensverzerrung, erheblicher Schaden.

Realistisches CH-KMU-Beispiel: eine Chatbot-KI für die Schuldenberatungs-Akquise, die Klagedrohungen subliminal in einem rhythmischen Sprachmuster einbettet, um Vertragsabschlüsse zu erzwingen. Klar verboten. Grenzfall: Dark-Pattern-Optimierung in E-Commerce-Checkouts. Die Kommissionsleitlinien stellen klar, dass klassische UX-Optimierung (A/B-Tests, Reduktion kognitiver Last) nicht unter das Verbot fällt, solange sie nicht systematisch Schaden zufügt. Personalisiertes Pricing in Wettbewerbssituationen ist nicht unterschwellig im Sinne von lit. a, kann aber unter lit. b fallen, wenn es gezielt vulnerable Gruppen ausnutzt.

Art. 5 Abs. 1 lit. b verbietet die Ausnutzung von Vulnerabilität aufgrund von Alter, Behinderung oder spezifischer sozialer oder wirtschaftlicher Situation einer Person oder Personengruppe, mit dem Ziel oder der Wirkung, das Verhalten wesentlich zu verzerren und voraussichtlich erheblichen Schaden zu verursachen. Im Unterschied zu lit. a muss die Manipulation nicht unterschwellig sein – es genügt, dass eine vulnerable Gruppe gezielt adressiert wird.

CH-KMU-Beispiele: ein KI-gestütztes Inkasso-Tool, das gezielt überschuldete Privatpersonen mit psychologischem Druck zur Aufnahme weiterer Kredite drängt – verboten. Ein Werbe-Targeting, das auf «Senioren ohne digitale Erfahrung» zielt und unklare Abo-Modelle anbietet – verboten. Eine Krankenkassen-Telefon-KI, die psychisch belastete Versicherte gezielt zu nicht passenden Zusatzversicherungen drängt – verboten. Grenzfall: zielgruppenspezifische Werbung an Familien mit Kleinkindern für altersgerechte Produkte – nicht verboten, solange kein Schaden zugefügt wird.

Art. 5 Abs. 1 lit. c verbietet KI-basiertes Social Scoring durch öffentliche oder private Stellen, das natürliche Personen oder Gruppen über einen bestimmten Zeitraum aufgrund ihres sozialen Verhaltens oder bekannter, abgeleiteter oder vorhergesagter persönlicher Merkmale bewertet oder klassifiziert, wenn dies zu einer nachteiligen oder ungünstigen Behandlung in Kontexten führt, die mit den Kontexten, in denen die Daten ursprünglich erzeugt oder erhoben wurden, in keinem Zusammenhang stehen, oder zu einer ungerechtfertigten oder unverhältnismässigen Behandlung führt.

Klassisches Beispiel: das chinesische Social-Credit-System. Schweizer KMU-Relevanz: ein Kundentreueprogramm, das Online-Verhalten in einem Kontext (Forum-Posts zu Beschwerden) für nachteilige Preisgestaltung in unverbundenen Bereichen (z.B. Versicherungsprämien des Schwesterunternehmens) verwendet, fällt unter das Verbot. Wichtig: nicht jedes Scoring ist Social Scoring – Kreditscoring nach klar definierten finanziellen Kriterien innerhalb des Finanzkontextes ist erlaubt (aber hochrisikobehaftet nach Annex III). Verboten wird die Kontextüberschreitung mit nachteiliger Behandlung.

Art. 5 Abs. 1 lit. f verbietet KI-Systeme zur Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen – ausser zu medizinischen oder Sicherheitszwecken. Das Verbot ist breit und trifft KMU unerwartet hart. Workplace-Surveillance-Tools, die Stimmenanalyse von Call-Center-Mitarbeitenden zur Stress- oder Engagement-Messung nutzen, sind verboten. Tools, die Webcams in Online-Meetings auswerten, um die Aufmerksamkeit von Schülern oder Auszubildenden zu messen, sind verboten. Recruiting-KI, die in Bewerbungsvideos Mimik analysiert, ist verboten.

Ausnahmen: medizinische Anwendungen (z.B. Stimmungsmonitoring im Burnout-Coaching durch eine zertifizierte App nach ärztlicher Verordnung) und Sicherheitsanwendungen (z.B. Müdigkeitserkennung bei Maschinenführern in der Stahlproduktion zur Unfallprävention). Die Abgrenzung erfolgt eng: «Wellbeing-Apps» für Mitarbeitende, die ohne Diagnose-Indikation eingesetzt werden, fallen unter das Verbot. CH-KMU, die solche Tools im HR oder im Online-Schulungsbereich nutzen, müssen ihre Konfiguration und ggf. den Anbieterwechsel prüfen.

Art. 5 Abs. 1 lit. g verbietet biometrische Kategorisierungssysteme, die natürliche Personen einzeln aufgrund ihrer biometrischen Daten klassifizieren, um Rasse, politische Ansichten, Gewerkschaftszugehörigkeit, religiöse oder weltanschauliche Überzeugungen, Sexualleben oder sexuelle Ausrichtung abzuleiten. Erlaubt bleibt die Sortierung biometrischer Datensätze in Strafverfolgungskontexten unter strengen Voraussetzungen. Praxisrelevanz für CH-KMU: KI-Tools, die in Werbe- oder Recruiting-Plattformen Gesichtserkennung nutzen, um die ethnische Zusammensetzung von Datenpools zu balancieren, sind betroffen.

Art. 5 Abs. 1 lit. h verbietet den Einsatz von Echtzeit-Remote-Biometrik-Identifikationssystemen im öffentlich zugänglichen Raum zu Strafverfolgungszwecken – mit drei eng umrissenen Ausnahmen (gezielte Suche nach Opfern, Verhütung eines bedrohlich nahen Terrorangriffs, Identifizierung mutmasslicher Täter schwerer Straftaten nach abschliessender Liste). Diese Bestimmung trifft primär Behörden, nicht Schweizer KMU. Relevanz für KMU: wer Kamera-Infrastruktur als Dienstleister an Behörden liefert, muss prüfen, ob die Konfiguration die Voraussetzungen erfüllt – Lieferantenpflichten nach Art. 25 können greifen.

Art. 5 Abs. 1 lit. d verbietet KI-Systeme zur Risikobewertung natürlicher Personen, um das Risiko zu beurteilen, dass eine Person eine Straftat begeht, ausschliesslich auf Basis von Profiling oder einer Bewertung von Persönlichkeitsmerkmalen. Nicht verboten ist die Unterstützung menschlicher Bewertungen, die auf objektiven, überprüfbaren Fakten beruhen, die direkt mit einer kriminellen Aktivität zusammenhängen. CH-KMU-Relevanz primär als Lieferant von Polizeitechnik oder Justizsoftware.

Art. 5 Abs. 1 lit. e verbietet das ungezielte Scraping von Gesichtsbildern aus dem Internet oder aus CCTV-Aufzeichnungen zum Aufbau oder zur Erweiterung von Gesichtserkennungs-Datenbanken. Bekanntes Beispiel: das Clearview-AI-Modell. CH-KMU-Relevanz: jedes Tool, das Web-Scraping mit Gesichtsanalyse kombiniert, ist betroffen. Auch ein vermeintlich «sanftes» Use Case wie das Sammeln von Mitarbeiter-Fotos von LinkedIn zur Aufbau einer internen Gesichtsdatenbank fällt unter das Verbot, wenn das Scraping nicht zielgerichtet (mit Einwilligung der einzelnen Mitarbeiter) erfolgt.

SIDD prüft Ihre KI-Tools und Lieferanten auf Art. 5-Risiken. Wir machen die Erstklassifikation pro System, dokumentieren die Grenzfall-Analyse mit Bezug zu den Kommissionsleitlinien C(2025) 884, und erarbeiten – wo ein Verbot drohen würde – Alternativ-Konfigurationen oder Lieferantenwechsel. Bei festgestellten Verstössen begleiten wir den geordneten Rückzug (Stilllegung, Rückruf, Information betroffener Personen, Behörden-Kommunikation).

Mehr zu unseren KI-Compliance-Leistungen unter Datenschutzberatung Schweiz und für EU-Tochtergesellschaften unter DSGVO-DPO-Mandate. Für die Mitarbeitenden-Sensibilisierung – ein zentraler Baustein, weil Verstösse oft aus operativen Einkaufsentscheidungen entstehen – kombinieren wir mit Datenschutz-Workshops. Eine schnelle Triage Ihrer eingesetzten KI-Tools auf Art. 5-Risiken besprechen wir per Kontaktformular; ein konkretes Mandat fordern Sie über unser Offerte-Formular an. Wer eine verbotene Praktik in Verkehr bringt, riskiert nicht nur 35 Mio. EUR, sondern auch die EU-Marktfähigkeit künftiger KI-Produkte.