# Künstliche Intelligenz im Unternehmen, Compliance-Leitfaden 2026 > EU-KI-Verordnung, ISO/IEC 42001 und DSGVO im Praxisleitfaden 2026, Risikoklassen, Pflichten, Sanktionen bis EUR 35 Mio. und KMU-Checkliste von SIDD. - Quelle: https://www.sidd.swiss/einblicke/ki-compliance-leitfaden/ - Sprache: de-CH - Veröffentlicht: 2026-05-24 - Stand: 2026-06-18 - Autor:in: Dr. Dominic Staiger - Herausgeber: SIDD Institut für Datenschutz und Datensicherheit, eine Marke der Priverion GmbH, Zugerstrasse 32, 6340 Baar (ZG), Schweiz ## Was bedeutet KI-Compliance? KI-Compliance bezeichnet die Gesamtheit aller rechtlichen, regulatorischen und normativen Pflichten, die beim Entwickeln, Bereitstellen, Inverkehrbringen und Betreiben von Systemen Künstlicher Intelligenz in Unternehmen einzuhalten sind. Sie verbindet KI-spezifisches Recht, insbesondere die EU-KI-Verordnung, mit Datenschutz, Informationssicherheit, Produkthaftung und sektorspezifischer Regulierung. Drei Regelwerke bilden den Kern der KI-Compliance für Unternehmen in der DACH-Region: Erstens die Verordnung (EU) 2024/1689 (EU Artificial Intelligence Act, kurz KI-VO), die seit 1. August 2024 in Kraft ist und gestaffelt zur Anwendung kommt. Zweitens das Datenschutzrecht (DSGVO und DSG), das die Verarbeitung von Personendaten durch und in KI-Systemen regelt. Drittens der Managementstandard ISO/IEC 42001:2023 für KI-Managementsysteme (AI Management System, AIMS), publiziert im Dezember 2023 als erster zertifizierbarer Standard für KI-Governance. In der Schweiz besteht, Stand Mai 2026, kein KI-spezifisches Bundesgesetz. Der Bundesrat hat am 5. September 2024 die KI-Konvention des Europarats (Council of Europe Framework Convention on Artificial Intelligence) unterzeichnet, ein nationales Umsetzungsgesetz wird erarbeitet. Bis dahin gilt das bestehende Recht: das DSG für Personendaten, das Obligationenrecht für vertragliche und ausservertragliche Haftung sowie sektorspezifische Erlasse (FINMA-Rundschreiben, Heilmittelrecht, KVG). KI-Compliance ist YMYL-relevant: Eine fehlerhafte automatisierte Entscheidung kann Kreditzusagen, medizinische Diagnosen, Personalentscheidungen oder Versicherungsverträge betreffen. Verstösse gegen die EU-KI-Verordnung können mit bis zu EUR 35 Mio. oder 7 Prozent des weltweiten Jahresumsatzes sanktioniert werden, höher als die DSGVO. ## Wer ist von der EU-KI-Verordnung betroffen? Die EU-KI-Verordnung gilt nach Art. 2 KI-VO für eine Vielzahl von Akteuren entlang der KI-Wertschöpfungskette und reicht extraterritorial deutlich über die EU-Grenzen hinaus. Schweizer Unternehmen sind in vielen Konstellationen mittelbar betroffen. **Adressaten (Art. 2 Abs. 1 KI-VO).** Erfasst werden Anbieter (Provider), die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen; Betreiber (Deployer), die KI-Systeme unter eigener Verantwortung nutzen; Einführer (Importer) und Händler (Distributor); Produkthersteller, die KI-Systeme zusammen mit ihrem Produkt unter eigenem Namen vertreiben; Bevollmächtigte von Anbietern ausserhalb der EU; sowie betroffene Personen mit Sitz in der EU. **Räumlicher Anwendungsbereich (Art. 2 Abs. 1 lit. a–c KI-VO).** Die Verordnung greift, wenn ein Anbieter ein KI-System auf den EU-Markt bringt, ungeachtet seines Sitzes; wenn ein Betreiber das System innerhalb der EU einsetzt; oder wenn die Ausgabe (Output) des KI-Systems in der EU genutzt wird, selbst wenn Anbieter und Betreiber ausserhalb der EU sitzen. Diese Output-Klausel entspricht funktional dem Marktortprinzip von Art. 3 DSGVO und erfasst Schweizer Unternehmen weitreichend. **Schweizer KMU und Konzerne.** Ein Schweizer Anbieter, der eine KI-Lösung in den EU-Markt verkauft, untersteht der KI-VO direkt. Ein Schweizer Unternehmen, dessen interner Chatbot Ergebnisse an Mitarbeitende einer EU-Tochter liefert, kann ebenfalls in den Anwendungsbereich fallen. Auch Schweizer Cloud-Anbieter oder API-Provider, deren Output von EU-Kunden verwertet wird, sind betroffen. **Ausnahmen (Art. 2 Abs. 3–10 KI-VO).** Vom Anwendungsbereich ausgenommen sind KI-Systeme für ausschliesslich militärische oder Verteidigungszwecke, ausschliesslich wissenschaftliche Forschung und Entwicklung, freie und quelloffene KI ausserhalb der Verbote oder Hochrisikofälle sowie die rein persönliche, nicht berufliche Nutzung. Die Ausnahmen sind eng zu lesen. ## Die vier Risikoklassen der KI-Verordnung Die KI-VO folgt einem risikobasierten Ansatz und unterscheidet vier Risikoklassen mit jeweils unterschiedlichen Pflichten. Die korrekte Einstufung eines KI-Systems ist der Ausgangspunkt jeder KI-Compliance-Bewertung. **Inakzeptables Risiko (Art. 5 KI-VO).** Diese KI-Praktiken sind verboten. Dazu zählen Social Scoring durch öffentliche Behörden, manipulative oder ausnutzende Techniken, biometrische Echtzeit-Fernidentifikation im öffentlichen Raum (mit eng definierten Ausnahmen für Strafverfolgung), Emotion Recognition am Arbeitsplatz und in Bildungseinrichtungen sowie ungezieltes Scraping von Gesichtsbildern für Gesichtserkennungsdatenbanken. Die Verbote gelten seit 2. Februar 2025. **Hohes Risiko (Art. 6 ff. KI-VO).** Hochrisiko-KI-Systeme unterliegen den umfassendsten Pflichten. Erfasst werden zwei Kategorien: erstens KI-Systeme, die als Sicherheitskomponente in einem Produkt nach Anhang I verwendet werden (Medizinprodukte, Maschinen, Spielzeug, Aufzüge, Funkanlagen u.a.); zweitens eigenständige KI-Systeme in den in Anhang III genannten Bereichen (biometrische Identifikation, kritische Infrastruktur, Bildung, Beschäftigung und Personalauswahl, Zugang zu wesentlichen privaten und öffentlichen Diensten wie Krediten und Versicherungen, Strafverfolgung, Migration und Grenzkontrolle, Justiz und demokratische Prozesse). **Begrenztes Risiko (Art. 50 KI-VO).** KI-Systeme mit Interaktion zu natürlichen Personen, generative Systeme, Emotion-Recognition-Systeme und Deepfakes unterliegen besonderen Transparenzpflichten. Der Endnutzer muss erkennen können, dass er mit einer KI interagiert beziehungsweise dass Inhalte synthetisch erzeugt oder manipuliert wurden. **Minimales Risiko.** Alle übrigen KI-Systeme unterliegen keinen spezifischen KI-VO-Pflichten. Spam-Filter, KI-gestützte Bildbearbeitung oder klassische Empfehlungsalgorithmen fallen typischerweise in diese Kategorie. Datenschutzrechtliche Pflichten bleiben jedoch unberührt. Die Einstufung erfolgt anhand des konkreten Einsatzzwecks. Ein Sprachmodell ist nicht per se hochriskant; wird es jedoch zur automatisierten Vorauswahl von Bewerbungen eingesetzt, fällt es nach Anhang III Ziffer 4 in den Hochrisikobereich. ## Verbotene KI-Praktiken nach Art. 5 KI-VO Die in Art. 5 KI-VO genannten KI-Praktiken sind seit 2. Februar 2025 unionsweit verboten. Anbieter und Betreiber haben die Praktiken einzustellen; Verstösse können mit bis zu EUR 35 Mio. oder 7 Prozent des weltweiten Jahresumsatzes sanktioniert werden (Art. 99 Abs. 3 KI-VO). **Manipulative und ausnutzende Techniken (Art. 5 Abs. 1 lit. a und b KI-VO).** Verboten sind KI-Systeme, die unterschwellige Techniken oder absichtlich manipulative beziehungsweise täuschende Methoden einsetzen, um das Verhalten einer Person erheblich zu beeinflussen und dadurch erheblichen Schaden hervorzurufen. Ebenso verboten ist die Ausnutzung der Schwachstellen bestimmter Personengruppen aufgrund von Alter, Behinderung oder sozialer und wirtschaftlicher Lage. **Social Scoring (Art. 5 Abs. 1 lit. c KI-VO).** KI-Systeme, die natürliche Personen oder Personengruppen anhand ihres sozialen Verhaltens oder vorhergesagter persönlicher Merkmale bewerten und klassifizieren, sind verboten, wenn die resultierende Bewertung zu nachteiliger oder ungünstiger Behandlung in Kontexten führt, die mit dem ursprünglichen Erhebungskontext nichts zu tun haben, oder wenn sie unverhältnismässig ist. **Predictive Policing auf Profilbasis (Art. 5 Abs. 1 lit. d KI-VO).** Verboten ist die KI-gestützte Vorhersage der Wahrscheinlichkeit einer Straftat durch eine natürliche Person, soweit sie ausschliesslich auf Profiling oder der Bewertung von Persönlichkeitsmerkmalen beruht. **Ungezieltes Gesichtsbild-Scraping (Art. 5 Abs. 1 lit. e KI-VO).** Das ungezielte Auslesen von Gesichtsbildern aus dem Internet oder aus CCTV-Aufnahmen zur Erweiterung oder zum Aufbau von Gesichtserkennungsdatenbanken ist verboten. **Emotion Recognition am Arbeitsplatz und in der Bildung (Art. 5 Abs. 1 lit. f KI-VO).** KI-Systeme zur Erkennung von Emotionen im Bereich Arbeitsplatz und Bildungseinrichtungen sind verboten, mit eng definierten Ausnahmen für medizinische und sicherheitsbezogene Zwecke. **Biometrische Kategorisierung sensibler Merkmale (Art. 5 Abs. 1 lit. g KI-VO).** Biometrische Systeme, die Personen anhand sensibler Merkmale wie Rasse, politische Überzeugung, Gewerkschaftszugehörigkeit, religiöse Anschauung, Sexualleben oder sexuelle Orientierung kategorisieren, sind verboten. **Echtzeit-Fernidentifikation im öffentlichen Raum (Art. 5 Abs. 1 lit. h KI-VO).** Die biometrische Echtzeit-Fernidentifikation im öffentlich zugänglichen Raum durch Strafverfolgungsbehörden ist grundsätzlich verboten; eng definierte Ausnahmen mit richterlicher Genehmigung bestehen für die Suche nach Opfern schwerer Straftaten, die Abwehr terroristischer Anschläge und die Lokalisierung von Verdächtigen schwerer Straftaten. Für Schweizer Unternehmen mit Marktauftritt in der EU oder mit EU-Nutzern bedeutet dies: Jede HR-Software mit Emotion-Recognition-Funktion (etwa Stress-Erkennung in Videointerviews), jedes Customer-Scoring jenseits des ursprünglichen Erhebungskontexts und jedes biometrische Filtersystem nach sensiblen Merkmalen ist auf Art. 5 KI-VO zu prüfen. ## Hochrisiko-KI-Systeme, Pflichten nach Art. 6 ff. KI-VO Hochrisiko-KI-Systeme unterliegen dem umfassendsten Pflichtenkatalog der KI-VO. Die Pflichten richten sich primär an Anbieter (Art. 16 KI-VO), in Teilen auch an Betreiber (Art. 26 KI-VO). Die Anwendbarkeit der Hochrisiko-Pflichten beginnt am 2. August 2026. **Risikomanagementsystem (Art. 9 KI-VO).** Über den gesamten Lebenszyklus des Systems ist ein dokumentiertes Risikomanagement zu etablieren, Identifikation und Analyse vorhersehbarer Risiken, Bewertung der Risiken bei bestimmungsgemässer Verwendung und vernünftigerweise vorhersehbarem Fehlgebrauch, Annahme geeigneter Massnahmen, Testen. **Daten-Governance (Art. 10 KI-VO).** Trainings-, Validierungs- und Testdaten müssen relevant, repräsentativ und, soweit möglich, fehlerfrei und vollständig sein. Daten-Governance-Praktiken umfassen Datenerhebung, Datenaufbereitung, Annahmen über die Daten, Verfügbarkeit, Quantität und Eignung der Datensätze sowie die Prüfung auf mögliche Verzerrungen (Bias). **Technische Dokumentation (Art. 11 i.V.m. Anhang IV KI-VO).** Vor Inverkehrbringen ist eine ausführliche technische Dokumentation zu erstellen und aktuell zu halten. Mindestinhalt nach Anhang IV: allgemeine Beschreibung, Beschreibung der Elemente und Entwicklungsprozesse, Informationen zur Überwachung, zum Funktionieren und zur Kontrolle, Risikomanagementsystem, beschriebene Änderungen, Liste der angewandten harmonisierten Normen, EU-Konformitätserklärung. **Aufzeichnungspflichten / Logging (Art. 12 KI-VO).** Hochrisiko-KI-Systeme müssen technisch die automatische Aufzeichnung von Ereignissen (Logs) während ihres Betriebs ermöglichen. **Transparenz und Bereitstellung von Informationen für Betreiber (Art. 13 KI-VO).** Die Systeme sind so zu gestalten, dass Betreiber die Ausgaben angemessen interpretieren und verwenden können. Gebrauchsanweisungen mit Pflichtinhalt sind beizufügen. **Menschliche Aufsicht (Art. 14 KI-VO).** Während der Nutzung muss eine wirksame Beaufsichtigung durch natürliche Personen möglich sein, mit der Möglichkeit, die Ausgabe zu überprüfen, den Betrieb anzuhalten oder die Ergebnisse zu überschreiben. **Genauigkeit, Robustheit, Cybersicherheit (Art. 15 KI-VO).** Hochrisiko-Systeme sind so zu entwerfen, dass sie ein angemessenes Niveau an Genauigkeit, Robustheit und Cybersicherheit erreichen und über den gesamten Lebenszyklus stabil funktionieren. **Konformitätsbewertung und CE-Kennzeichnung (Art. 43, 48 KI-VO).** Vor Inverkehrbringen ist ein Konformitätsbewertungsverfahren durchzuführen und die CE-Kennzeichnung anzubringen. Eintrag in die EU-Datenbank für Hochrisiko-KI-Systeme nach Art. 71 KI-VO. **Betreiberpflichten (Art. 26 KI-VO).** Betreiber haben technische und organisatorische Massnahmen zu treffen, um die Nutzung gemäss Gebrauchsanweisung sicherzustellen, eine menschliche Aufsicht zu gewährleisten, die Eingabedaten zu kontrollieren und das System zu überwachen. Bestimmte Betreiber müssen zudem eine KI-Folgenabschätzung nach Art. 27 KI-VO durchführen. ## General-Purpose AI (GPAI) und Foundation Models, Pflichten ab 2. August 2025 General-Purpose AI Models (GPAI) sind KI-Modelle mit allgemeinem Verwendungszweck, die ein breites Spektrum unterschiedlicher Aufgaben kompetent ausführen können und in eine Vielzahl nachgelagerter Systeme integriert werden können. Die für sie geltenden Pflichten sind seit 2. August 2025 anwendbar. **Definition (Art. 3 Nr. 63 KI-VO).** Erfasst werden Modelle wie grosse Sprachmodelle (GPT-Familie, Claude, Gemini, LLaMA), grosse Bildmodelle und Multimodal-Modelle, die typischerweise mit grossen Datenmengen trainiert werden, Selbstüberwachungstechniken verwenden und Generizität aufweisen. **Pflichten aller GPAI-Anbieter (Art. 53 KI-VO).** Erstellung und Aktualisierung einer technischen Modelldokumentation, Bereitstellung von Informationen für nachgelagerte Anbieter (Downstream Providers), Implementierung einer Strategie zur Einhaltung des Urheberrechts und Veröffentlichung einer hinreichend detaillierten Zusammenfassung der für das Training verwendeten Inhalte. **Pflichten bei GPAI mit systemischem Risiko (Art. 51 ff. KI-VO).** Modelle, deren kumulierte Trainingsrechenleistung 10^25 FLOPs übersteigt, gelten widerleglich als systemisch riskant. Zusätzliche Pflichten: Modellbewertung mit standardisierten Protokollen einschliesslich Adversarial Testing, Bewertung und Minderung systemischer Risiken auf EU-Ebene, Aufzeichnung und Meldung schwerwiegender Vorfälle, Gewährleistung eines angemessenen Cybersicherheitsniveaus. **Open-Source-Ausnahme.** Für freie und quelloffene GPAI-Modelle sind Teile der Pflichten reduziert, sofern keine systemischen Risiken vorliegen und das Modell mit transparenten Parametern bereitgestellt wird (Art. 53 Abs. 2 KI-VO). **Bedeutung für Betreiber.** Auch wer ein GPAI-Modell lediglich integriert (etwa via API in einen internen RAG-Stack), sollte die Anbieterinformationen einfordern und sie als Bestandteil der eigenen Risikobewertung dokumentieren. Wer ein GPAI-Modell substanziell nachtrainiert oder anpasst, kann selbst zum Anbieter im Sinne der KI-VO werden, mit allen Folgepflichten. ## Transparenzpflichten, Wann müssen Sie Nutzer informieren? (Art. 50 KI-VO) Art. 50 KI-VO definiert Transparenzpflichten, die unabhängig von der Risikoklasse für bestimmte KI-Systeme gelten. Sie greifen unter anderem bei Chatbots, generativen Systemen und Deepfakes und sind ein Schwerpunkt der KI-Compliance für KMU, die externe Modelle einbinden. **Chatbot-Transparenz (Art. 50 Abs. 1 KI-VO).** Anbieter von KI-Systemen, die mit natürlichen Personen interagieren, müssen sicherstellen, dass die betroffenen Personen darüber informiert sind, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus den Umständen offensichtlich. **Kennzeichnung synthetischer Inhalte (Art. 50 Abs. 2 KI-VO).** Anbieter generativer KI-Systeme müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Dies betrifft Text-, Bild-, Audio- und Videoausgaben. **Emotion Recognition und biometrische Kategorisierung (Art. 50 Abs. 3 KI-VO).** Betreiber müssen die natürlichen Personen, die solchen Systemen ausgesetzt sind, über deren Betrieb informieren, vorbehaltlich der Verbote nach Art. 5 KI-VO. **Deepfakes (Art. 50 Abs. 4 KI-VO).** Betreiber von KI-Systemen, die Deepfakes erzeugen oder manipulieren, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Ausnahmen bestehen für offensichtlich künstlerische, satirische oder fiktionale Werke, die Offenlegung darf in geeigneter Weise erfolgen, ohne den Werkgenuss zu beeinträchtigen. **Inhalte öffentlichen Interesses (Art. 50 Abs. 4 KI-VO).** KI-generierte oder -manipulierte Texte, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden, sind als künstlich erzeugt zu kennzeichnen. **Form der Information.** Klar, deutlich und spätestens bei der ersten Interaktion. Versteckte Hinweise in den AGB oder am Ende einer Webseite genügen nicht. Wir empfehlen eine kombinierte Lösung: prominenter Hinweis im UI plus Detailangaben in der Datenschutz- beziehungsweise KI-Erklärung. ## Datenschutz und KI, DSGVO Art. 22 + DSG bei automatisierten Entscheidungen KI-Systeme verarbeiten in vielen Fällen Personendaten und unterliegen damit zusätzlich zur KI-VO dem Datenschutzrecht. Die Schnittmenge ist erheblich, eine isolierte Betrachtung ist nicht möglich. **Rechtsgrundlage (Art. 6 DSGVO).** Jede Verarbeitung personenbezogener Daten in KI-Systemen benötigt eine Rechtsgrundlage, typischerweise berechtigtes Interesse (Art. 6 Abs. 1 lit. f DSGVO) mit Interessenabwägung oder Einwilligung. Für Trainingsdaten aus dem Internet (Web Scraping) ist die Rechtsgrundlage besonders sorgfältig zu prüfen; die europäischen Aufsichtsbehörden verfolgen eine restriktive Linie. **Besondere Kategorien (Art. 9 DSGVO).** Verarbeitet das KI-System Gesundheitsdaten, biometrische Identifikationsdaten oder Daten zu sexueller Orientierung, ist Art. 9 DSGVO einschlägig, mit deutlich engeren Voraussetzungen. **Automatisierte Einzelentscheidung (Art. 22 DSGVO).** Eine ausschliesslich auf einer automatisierten Verarbeitung beruhende Entscheidung mit rechtlicher Wirkung oder ähnlich erheblicher Beeinträchtigung ist nur zulässig, wenn sie zur Vertragserfüllung erforderlich, gesetzlich zulässig oder durch ausdrückliche Einwilligung gedeckt ist. Die betroffene Person hat in jedem Fall Anspruch auf menschliches Eingreifen, eigene Stellungnahme und Anfechtung der Entscheidung. **Schweizer Äquivalent (Art. 21 DSG).** Das DSG verlangt bei automatisierten Einzelentscheidungen mit rechtlicher Wirkung oder erheblicher Beeinträchtigung die Information der betroffenen Person und die Möglichkeit der Stellungnahme. Die Vorschrift ist enger gefasst als Art. 22 DSGVO, kennt aber kein generelles Verbot. **DPIA / DSFA (Art. 35 DSGVO / Art. 22 DSG).** Beim Einsatz neuer Technologien, wozu KI praktisch immer zählt, sowie bei systematischer Bewertung oder Profiling mit erheblicher Wirkung ist eine Datenschutz-Folgenabschätzung verpflichtend. Sie ist mit der KI-Folgenabschätzung nach Art. 27 KI-VO (siehe unten) inhaltlich zu verzahnen, aber rechtlich separat zu führen. **Datenminimierung und Zweckbindung.** Das Trainieren mit grösstmöglichen Datenmengen kollidiert systematisch mit dem Grundsatz der Datenminimierung (Art. 5 Abs. 1 lit. c DSGVO). Lösungsansätze: synthetische Daten, Pseudonymisierung, Differential Privacy, föderiertes Lernen. Vertiefend zu den datenschutzrechtlichen Pflichten siehe unseren [DSGVO-Leitfaden](https://www.sidd.swiss/einblicke/dsgvo-leitfaden/) und den [DSG-Leitfaden](https://www.sidd.swiss/einblicke/dsg-fadp-leitfaden/). ## ISO/IEC 42001:2023, der erste Management-Standard für KI-Systeme ISO/IEC 42001:2023, publiziert am 18. Dezember 2023, ist der weltweit erste Managementstandard für Künstliche Intelligenz. Er definiert Anforderungen an Aufbau, Betrieb, Überwachung und Verbesserung eines AI Management System (AIMS) und ist als zertifizierbarer Standard nach der Annex-SL-Hochstruktur konzipiert. **Struktur.** ISO/IEC 42001:2023 folgt der harmonisierten Hochstruktur (HLS) und ist damit anschlussfähig an ISO/IEC 27001 (Informationssicherheit), ISO 9001 (Qualität) und ISO/IEC 27701 (Privacy). Die normativen Kapitel 4 bis 10 (Kontext, Führung, Planung, Unterstützung, Betrieb, Bewertung der Leistung, Verbesserung) entsprechen formal dem Aufbau von ISO/IEC 27001. Annex A enthält Referenzkontrollen für KI-Systeme. **Kerninhalte.** Der Standard adressiert KI-spezifische Risiken und Pflichten entlang des Lebenszyklus: Definition der KI-Politik, Festlegung von Rollen und Verantwortlichkeiten (insbesondere AI Ethics Officer / AI Governance), Risikomanagement für KI-Systeme mit Fokus auf Fairness, Erklärbarkeit, Robustheit und Sicherheit, AI Impact Assessment (Art. 4.3 / 6.1.4), Daten-Governance, Lebenszyklusmanagement von KI-Systemen, Lieferantensteuerung bei eingekauften KI-Komponenten. **Verhältnis zur KI-VO.** ISO/IEC 42001 ist kein Ersatz für die KI-VO und keine harmonisierte Norm im Sinne von Art. 40 KI-VO (Stand Mai 2026). Sie ist jedoch ein wertvolles Umsetzungsframework: Wer einen AIMS nach ISO/IEC 42001 betreibt, deckt zentrale KI-VO-Pflichten methodisch ab, insbesondere Risikomanagement (Art. 9 KI-VO), Daten-Governance (Art. 10 KI-VO), technische Dokumentation (Art. 11 KI-VO) und menschliche Aufsicht (Art. 14 KI-VO). **Verhältnis zu ISO/IEC 27001.** Die beiden Standards ergänzen sich. ISO/IEC 27001 schützt Informationen generisch nach Vertraulichkeit, Integrität und Verfügbarkeit; ISO/IEC 42001 ergänzt um KI-spezifische Aspekte wie Modellrobustheit, Bias und Erklärbarkeit. Wer bereits ein ISMS nach ISO/IEC 27001:2022 betreibt, kann das AIMS integriert aufbauen, die HLS-Synergien sind erheblich. Vertiefend zum ISMS siehe unseren [ISO 27001-Leitfaden](https://www.sidd.swiss/einblicke/iso-27001-leitfaden/). **Zertifizierungsfähigkeit.** Eine akkreditierte Drittzertifizierung nach ISO/IEC 42001 ist möglich. Akkreditierte Zertifizierungsstellen bauen ihre Akkreditierung nach ISO/IEC 17021-1 derzeit auf; im DACH-Raum ist die Marktreife steigend. ## KI-Folgenabschätzung (Fundamental Rights Impact Assessment, Art. 27 KI-VO) Die KI-Folgenabschätzung nach Art. 27 KI-VO (englisch Fundamental Rights Impact Assessment, FRIA) ist eine vorgängige Bewertung der Auswirkungen eines Hochrisiko-KI-Systems auf die Grundrechte natürlicher Personen. Sie ist von der DSGVO-DPIA / DSG-DSFA zu unterscheiden, kann aber organisatorisch verzahnt werden. **Wer ist verpflichtet (Art. 27 Abs. 1 KI-VO).** Verpflichtet sind Betreiber bestimmter Hochrisiko-KI-Systeme: Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, sowie Betreiber von Hochrisiko-Systemen in den Bereichen Bonität und Kreditwürdigkeit von natürlichen Personen sowie Lebens- und Krankenversicherungs-Risikobewertung und -Preisbildung. **Inhalt der FRIA (Art. 27 Abs. 1 KI-VO).** Beschreibung der Prozesse, in denen das System eingesetzt wird; Zeitraum und Häufigkeit der Nutzung; Kategorien betroffener natürlicher Personen und Personengruppen; spezifische Risiken für die Grundrechte dieser Personen; Beschreibung der menschlichen Aufsicht; Massnahmen zur Risikominderung einschliesslich interner Governance und Beschwerdemechanismen. **Verhältnis zur DPIA / DSFA.** Werden im Rahmen der DPIA nach Art. 35 DSGVO bereits Aspekte abgedeckt, kann die FRIA ergänzend darauf aufbauen (Art. 27 Abs. 4 KI-VO). Die FRIA hat jedoch einen breiteren Grundrechtsfokus, sie umfasst neben Datenschutz auch Diskriminierungsverbot, Schutz der Berufsfreiheit, Versammlungsfreiheit und weitere Grundrechte der EU-Grundrechtecharta. **Dokumentation und Meldung.** Die Ergebnisse sind dokumentiert vorzuhalten. Wird ein Hochrisiko-System neu eingesetzt, ist die nationale Marktüberwachungsbehörde zu informieren (Art. 27 Abs. 3 KI-VO). **Schweizer Perspektive.** Schweizer Betreiber, deren Hochrisiko-KI-System Output in der EU erzeugt, sind in den entsprechenden Konstellationen ebenfalls zur FRIA verpflichtet. Eine eigenständige Schweizer FRIA-Pflicht besteht, Stand Mai 2026, nicht; abhängig vom Einzelfall ist die KI-Folgenabschätzung jedoch auch nach Schweizer Recht als angemessene Risikominderungsmassnahme einzuordnen. ## Schweizer Rechtslage, Stand 2026 (KI-Konvention CoE, kein KI-Gesetz, Bundesrats-Leitlinien) Die Schweiz verfügt, Stand Mai 2026, über kein KI-spezifisches Bundesgesetz. KI-Systeme werden über das bestehende Querschnittsrecht reguliert. Dies darf jedoch nicht als regulatorische Freizone missverstanden werden: Schweizer Unternehmen sind in vielen Konstellationen über die extraterritoriale Wirkung der KI-VO oder über sektorspezifische Regulierung erfasst. **KI-Konvention des Europarats.** Die Schweiz hat die Council of Europe Framework Convention on Artificial Intelligence and Human Rights, Democracy and the Rule of Law am 5. September 2024 unterzeichnet (zusammen mit der EU, dem Vereinigten Königreich, den USA, Israel und weiteren Staaten). Das Übereinkommen ist der erste völkerrechtlich verbindliche Vertrag zu KI. Die nationale Umsetzung in das Schweizer Recht wird vom Bundesrat vorbereitet; ein Gesetzesentwurf ist für die Legislaturperiode angekündigt. **Bundesrats-Leitlinien.** Der Bundesrat hat am 22. November 2023 Leitlinien für den Einsatz von KI in der Bundesverwaltung verabschiedet und am 12. Februar 2025 einen Bericht zur Regulierung von KI in der Schweiz publiziert. Der Bericht skizziert einen sektoriellen Ansatz mit Fokus auf bestehende Erlasse (DSG, Produkthaftpflicht, sektorspezifische Aufsichtsrechte) und eine zurückhaltende horizontale Regulierung. Die definitive Stossrichtung bleibt, abhängig vom Einzelfall, im politischen Prozess. **Anwendbares Querschnittsrecht.** Personendaten in KI-Systemen unterstehen dem DSG, insbesondere Art. 8 DSG (Datensicherheit), Art. 19 DSG (Informationspflicht), Art. 21 DSG (Widerspruch gegen automatisierte Einzelentscheidung), Art. 22 DSG (DSFA). Vertragliche und ausservertragliche Haftung folgen dem Obligationenrecht, insbesondere Art. 41 OR (unerlaubte Handlung) und dem Produkthaftpflichtgesetz. **Sektorspezifische Regulierung.** FINMA-Rundschreiben (insbesondere 2023/1 Operationelle Risiken und Resilienz) gelten für regulierte Finanzdienstleister auch für KI-Anwendungen. Im Gesundheitsbereich greifen Heilmittelgesetz und MepV bei KI-basierten Medizinprodukten, mit faktischer Anbindung an den EU-Medizinprodukterechtsrahmen (MDR). Im öffentlichen Sektor bestehen kantonale Regeln zur Algorithmischen Entscheidungsfindung. **SIDD-Position.** Wir empfehlen Schweizer KMU, ihre KI-Compliance auf zwei Säulen aufzubauen: Querschnittsrechtliche Konformität nach Schweizer Recht (DSG, OR, sektorspezifisch) sowie, bei jedem EU-Bezug, proaktive KI-VO-Compliance, da die Anpassung nach Markteintritt deutlich teurer ist. Siehe aktuelle Aufsichtsbehörden-Praxis (EDÖB, BACS, FINMA) für sektorspezifische Konkretisierungen. ## Sanktionen nach der KI-Verordnung (Art. 99 KI-VO, bis EUR 35 Mio. oder 7 % Jahresumsatz) Die KI-VO führt ein Sanktionssystem ein, das in seiner Höhe die DSGVO übertrifft. Art. 99 KI-VO definiert drei Bussgeldkategorien, die sich nach Schwere des Verstosses staffeln. Die Verhängung erfolgt durch die Marktüberwachungsbehörden der Mitgliedstaaten; für GPAI-Verstösse ist der AI Office der Kommission zuständig. **Verstösse gegen Art. 5 KI-VO (verbotene Praktiken).** Bis zu EUR 35 Mio. oder 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Art. 99 Abs. 3 KI-VO). **Verstösse gegen Anbieter-, Betreiber- und sonstige Pflichten.** Bis zu EUR 15 Mio. oder 3 Prozent des weltweiten Jahresumsatzes (Art. 99 Abs. 4 KI-VO). Erfasst werden insbesondere Verstösse gegen die Hochrisiko-Pflichten der Art. 16 ff., 26 ff. KI-VO, Konformitätsbewertungspflichten und Registrierungspflichten. **Falsche, unvollständige oder irreführende Informationen gegenüber Behörden.** Bis zu EUR 7,5 Mio. oder 1 Prozent des weltweiten Jahresumsatzes (Art. 99 Abs. 5 KI-VO). **KMU und Start-ups (Art. 99 Abs. 6 KI-VO).** Für kleine und mittlere Unternehmen sowie Start-ups gilt jeweils der niedrigere der beiden Beträge, eine relevante Privilegierung gegenüber dem DSGVO-Sanktionsregime. **Verfahren.** Die Mitgliedstaaten legen die zuständigen Marktüberwachungsbehörden fest. Die Bemessungsfaktoren in Art. 99 Abs. 7 KI-VO entsprechen weitgehend Art. 83 Abs. 2 DSGVO: Art, Schwere und Dauer des Verstosses, Vorsätzlichkeit oder Fahrlässigkeit, Massnahmen zur Schadensminderung, Vorgeschichte, Kooperation mit der Behörde. **Sanktionen gegen GPAI-Anbieter (Art. 101 KI-VO).** Für GPAI-Anbieter sieht Art. 101 KI-VO eigenständige Geldbussen bis zu EUR 15 Mio. oder 3 Prozent des weltweiten Jahresumsatzes vor, verhängt durch die Europäische Kommission. **Schweizer Unternehmen.** Über die extraterritoriale Wirkung von Art. 2 KI-VO können Schweizer Unternehmen direkt von EU-Sanktionen erfasst werden. Die Durchsetzung erfolgt über Mitgliedstaaten oder den AI Office; abhängig vom Einzelfall sind auch Marktzugangsverbote (Untersagung des Inverkehrbringens nach Art. 79 ff. KI-VO) möglich, wirtschaftlich oft schwerer als die Geldbusse selbst. ## KI-Risiken aus InfoSec-Sicht (Prompt Injection, Model Extraction, Data Poisoning, OWASP LLM Top 10) KI-Systeme, insbesondere Large Language Models (LLMs), bringen InfoSec-Risikoklassen mit sich, die in klassischen Annex-A-Katalogen nur teilweise abgebildet sind. Die OWASP Top 10 for LLM Applications (OWASP Foundation, neueste Fassung 2025) ist der etablierte Referenzkatalog und ergänzt die ISO/IEC 27001-Controls für KI-Workloads. **LLM01, Prompt Injection.** Schadhafte Eingaben überschreiben die Systemanweisungen des Modells und veranlassen unautorisierte Aktionen (Datenabfluss, Tool-Aufrufe, Policy-Umgehung). Direkte Prompt Injection erfolgt durch den Nutzer, indirekte Prompt Injection durch externe Inhalte (Dokumente, Webseiten, E-Mails), die das Modell verarbeitet. **LLM02, Sensitive Information Disclosure.** Modelle geben Trainings- oder Kontextdaten preis, etwa Personendaten, Geschäftsgeheimnisse, Credentials. Risiko besonders bei RAG-Architekturen mit unzureichender Quellenkontrolle. **LLM03, Supply Chain.** Vortrainierte Modelle, Drittadapter, Plugins und Datensätze tragen kompromittierte Komponenten. Modell-Hubs ohne Provenance-Nachweis sind ein wachsendes Einfallstor. **LLM04, Data and Model Poisoning.** Manipulation der Trainings-, Feinabstimmungs- oder Embedding-Daten zur Erzeugung von Backdoors, Bias oder Modellausfällen. **LLM05, Improper Output Handling.** Modellausgaben werden ungeprüft an nachgelagerte Systeme weitergereicht (SQL, Shell, HTML), klassische Injection-Schwachstellen mit KI-Vektor. **LLM06, Excessive Agency.** Agentische LLM-Systeme erhalten zu weitreichende Tool- und Berechtigungssätze; Folge: Datenexfiltration, ungewollte Transaktionen. **LLM07, System Prompt Leakage.** Offenlegung des Systemprompts, der oft Policy-Logik, Schlüssel oder geschäftskritische Anweisungen enthält. **LLM08, Vector and Embedding Weaknesses.** RAG-spezifische Risiken: Embedding-Inversion, Vektor-Vergiftung, unzureichende Access-Control über Vektor-Stores. **LLM09, Misinformation.** Halluzinationen und überzogenes Vertrauen in Modellausgaben, insbesondere kritisch in YMYL-Anwendungen (Medizin, Recht, Finanzen). **LLM10, Unbounded Consumption.** Ressourcen-Exfiltration, Modell-Extraktion und Denial of Wallet durch missbräuchlich hohe Anfragelast oder geschickte Abfragen, die Modell-IP rekonstruieren. **Massnahmen.** Defense-in-Depth: Input- und Output-Filter, strenge Tool-Berechtigungen, Quellenkontrolle in RAG, kontinuierliches Red-Teaming, Monitoring und Anomalieerkennung. ISO/IEC 27001 Annex A liefert die organisatorische Verankerung, A.5.7 (Threat Intelligence), A.5.23 (Cloud Services), A.8.8 (Vulnerability Management), A.8.16 (Monitoring), A.8.28 (Secure Coding). Penetrationstests sollten KI-spezifische Vektoren (Prompt Injection, Jailbreaking, Model Extraction) explizit umfassen. ## KI-Compliance-Checkliste für KMU (10 Schritte) Die folgende Checkliste fasst die Schritte zusammen, mit denen ein Schweizer KMU eine belastbare KI-Compliance aufbaut, unabhängig davon, ob es eigene KI-Systeme entwickelt oder nur Drittanbieter (ChatGPT, Microsoft Copilot, interner RAG) einsetzt. Sie ersetzt keine individuelle Beratung, dient aber als Strukturierungshilfe. 1. **KI-Inventar erstellen.** Alle eingesetzten KI-Systeme erfassen: Vendor, Modell, Anwendungszweck, Datenflüsse, Nutzergruppen, Einsatzkontext. Schatten-KI (privat genutzte ChatGPT-Accounts, ungenehmigte Plugins) gezielt aufdecken. 2. **Risikoklassifikation nach KI-VO durchführen.** Pro System: inakzeptabel / hoch / begrenzt / minimal. Bei Hochrisiko-Einstufung Detailprüfung nach Anhang III KI-VO. 3. **Verbote nach Art. 5 KI-VO prüfen.** Insbesondere Emotion Recognition am Arbeitsplatz, biometrische Kategorisierung sensibler Merkmale, ungezieltes Gesichtsbild-Scraping. Bei Verdacht sofort einstellen. 4. **DPIA / DSFA durchführen (Art. 35 DSGVO / Art. 22 DSG).** Bei jedem System mit Personendatenverarbeitung. Bei Hochrisiko-Systemen zusätzlich KI-Folgenabschätzung nach Art. 27 KI-VO prüfen. 5. **Transparenz und Information sicherstellen (Art. 50 KI-VO).** Chatbot- und Deepfake-Hinweise im UI; KI-Klausel in der Datenschutzerklärung; interne KI-Nutzungsrichtlinie für Mitarbeitende. 6. **Auftragsbearbeitungsverträge (AVV) prüfen.** Mit jedem KI-Anbieter, der Personendaten verarbeitet. Datenstandort, Verwendung für Modelltraining (opt-out), Drittstaatentransfer und SCC dokumentieren. Internationale Transfers vertiefend siehe [DSG-Leitfaden](https://www.sidd.swiss/einblicke/dsg-fadp-leitfaden/) und [DSGVO-Leitfaden](https://www.sidd.swiss/einblicke/dsgvo-leitfaden/). 7. **KI-Governance und Rollen definieren.** Verantwortlichkeit für KI auf Geschäftsleitungsebene verankern (AI Officer, oft in Personalunion mit DSB / CISO). Use-Case-Freigabeprozess mit definierten Risikokriterien. 8. **Awareness und Schulung etablieren.** KI-Literacy-Pflicht nach Art. 4 KI-VO seit 2. Februar 2025: Anbieter und Betreiber müssen ein ausreichendes Mass an KI-Kompetenz ihrer Mitarbeitenden sicherstellen. Onboarding-Modul plus rollenspezifische Vertiefung. 9. **Technische Massnahmen umsetzen.** Input- und Output-Filter, Zugriffskontrolle, Monitoring, Logging (Art. 12 KI-VO), Secret-Management. OWASP LLM Top 10 als Referenz, ISO/IEC 27001 Annex A als organisatorischer Rahmen. 10. **AIMS nach ISO/IEC 42001:2023 prüfen.** Für regulierte Sektoren, KI-Hersteller und Unternehmen mit hohem Reifegrad: AIMS-Aufbau integriert mit bestehendem ISMS nach [ISO 27001](https://www.sidd.swiss/einblicke/iso-27001-leitfaden/), siehe aktuelle Aufsichtsbehörden-Praxis für sektorspezifische Konkretisierungen. ## Wie SIDD Sie bei der KI-Compliance unterstützt SIDD ist die Datenschutz- und InfoSec-Marke der Priverion GmbH (Baar/ZG), gegründet 2017. Wir begleiten Schweizer KMU und international tätige Gruppen bei der KI-Compliance entlang aller relevanten Regime: KI-VO-Risikoklassifikation, KI-Folgenabschätzung nach Art. 27 KI-VO, DPIA / DSFA für KI-Workloads, KI-Nutzungsrichtlinien und Awareness, sowie der Aufbau eines AI Management System nach ISO/IEC 42001:2023 integriert mit Ihrem bestehenden [ISMS nach ISO/IEC 27001](https://www.sidd.swiss/leistungen/isms-iso27001/). Für Personendaten in KI-Systemen koordinieren wir Ihr Mandat als [Schweizer Datenschutzberater](https://www.sidd.swiss/leistungen/datenschutzberater-schweiz/) und [EU-Datenschutzbeauftragter](https://www.sidd.swiss/leistungen/datenschutzbeauftragter-eu/). Vertiefend verweisen wir auf unsere Leitfäden zum [DSG / FADP](https://www.sidd.swiss/einblicke/dsg-fadp-leitfaden/), zur [DSGVO](https://www.sidd.swiss/einblicke/dsgvo-leitfaden/) und zu [ISO/IEC 27001](https://www.sidd.swiss/einblicke/iso-27001-leitfaden/). Beratung und Prüfung halten wir strikt getrennt. ## Häufige Fragen ### Wann gilt die EU-KI-Verordnung in der Schweiz? Die KI-VO ist seit 1. August 2024 in Kraft und gestaffelt anwendbar (Verbote ab 2. Februar 2025, GPAI ab 2. August 2025, Hochrisiko ab 2. August 2026). Die Schweiz ist nicht Mitglied der EU, dennoch sind Schweizer Unternehmen über Art. 2 KI-VO extraterritorial erfasst, insbesondere wenn sie KI-Systeme in den EU-Markt bringen oder der Output ihres Systems in der EU genutzt wird. ### Brauche ich eine KI-Folgenabschätzung wenn ich nur ChatGPT nutze? Abhängig vom Einzelfall. Eine FRIA nach Art. 27 KI-VO ist nur für bestimmte Hochrisiko-Betreiber zwingend. Eine DPIA nach Art. 35 DSGVO beziehungsweise eine DSFA nach Art. 22 DSG ist jedoch praktisch immer angezeigt, sobald Personendaten verarbeitet werden, auch beim Einsatz von Cloud-Sprachmodellen. Ergänzend ist die KI-Literacy-Pflicht nach Art. 4 KI-VO zu beachten. ### Was passiert wenn ich Art. 5 KI-VO verletze? Verbote nach Art. 5 KI-VO sind seit 2. Februar 2025 anwendbar. Verstösse können nach Art. 99 Abs. 3 KI-VO mit bis zu EUR 35 Mio. oder 7 Prozent des weltweiten Jahresumsatzes sanktioniert werden, je nachdem welcher Betrag höher ist. Für KMU gilt der jeweils niedrigere Betrag. ### Ersetzt ISO/IEC 42001 die KI-VO-Compliance? Nein. ISO/IEC 42001:2023 ist ein Managementstandard und liefert ein methodisches Framework für KI-Governance. Sie ist, Stand Mai 2026, keine harmonisierte Norm im Sinne von Art. 40 KI-VO und löst die Konformitätsvermutung nicht aus. Wer einen AIMS nach ISO/IEC 42001 betreibt, deckt jedoch zentrale Pflichten methodisch ab und reduziert den Aufwand der KI-VO-Umsetzung erheblich. ### Wer ist im Unternehmen für KI-Compliance verantwortlich? Die Gesamtverantwortung liegt bei der Geschäftsleitung. In der Praxis wird die Rolle in vielen KMU dem Datenschutzbeauftragten beziehungsweise dem CISO übertragen, häufig in Personalunion als AI Officer. Bei Hochrisiko-Systemen empfehlen wir ein dediziertes Komitee aus Recht, IT-Security, Datenschutz und Fachbereich. ISO/IEC 42001 verlangt eine ausdrückliche Rollenzuweisung. ### Was unterscheidet Art. 22 DSGVO von Art. 21 DSG? Art. 22 DSGVO verbietet ausschliesslich auf automatisierter Verarbeitung beruhende Entscheidungen mit rechtlicher Wirkung grundsätzlich, mit eng definierten Ausnahmen. Art. 21 DSG kennt kein Verbot, verlangt aber Information der betroffenen Person und Möglichkeit der Stellungnahme. Wer beiden Regimen untersteht, muss sich an der strengeren DSGVO orientieren. ### Wie schütze ich mich vor Prompt Injection? Defense-in-Depth: Input-Filter (Klassifikation auf Schadeingaben), Output-Filter (Sensitive-Information-Erkennung), strenge Tool-Berechtigungen (least privilege bei Agentic Systems), Quellenkontrolle in RAG (Trust-Tiers für externe Inhalte), kontinuierliches Red-Teaming und Monitoring. Pentests sollten Prompt-Injection-Vektoren explizit abdecken. Referenz: OWASP Top 10 for LLM Applications. ### Gilt die KI-VO auch für Open-Source-Modelle? Teilweise. Für freie und quelloffene KI-Modelle sind Pflichten reduziert, sofern keine systemischen Risiken vorliegen und das Modell mit transparenten Parametern bereitgestellt wird (Art. 2 Abs. 12 und Art. 53 Abs. 2 KI-VO). Verbote nach Art. 5 KI-VO und Pflichten für GPAI mit systemischem Risiko gelten jedoch auch für Open-Source-Modelle. ## Zitierte Rechtsgrundlagen und Quellen - Verordnung (EU) 2024/1689 (EU Artificial Intelligence Act) - Art. 2 KI-VO - Art. 3 Nr. 63 KI-VO - Art. 4 KI-VO - Art. 5 KI-VO - Art. 6 KI-VO - Art. 9 KI-VO - Art. 10 KI-VO - Art. 11 KI-VO - Art. 12 KI-VO - Art. 13 KI-VO - Art. 14 KI-VO - Art. 15 KI-VO - Art. 16 KI-VO - Art. 26 KI-VO - Art. 27 KI-VO - Art. 40 KI-VO - Art. 43 KI-VO - Art. 48 KI-VO - Art. 50 KI-VO - Art. 51 KI-VO - Art. 53 KI-VO - Art. 71 KI-VO - Art. 79 KI-VO - Art. 99 KI-VO - Art. 101 KI-VO - Anhang I KI-VO - Anhang III KI-VO - Anhang IV KI-VO - Art. 5 DSGVO - Art. 6 DSGVO - Art. 9 DSGVO - Art. 22 DSGVO - Art. 32 DSGVO - Art. 35 DSGVO - Art. 83 DSGVO - Art. 8 DSG - Art. 19 DSG - Art. 21 DSG - Art. 22 DSG - Art. 41 OR - ISO/IEC 42001:2023 - ISO/IEC 27001:2022 - ISO/IEC 27701:2019 - ISO/IEC 17021-1:2015 - Council of Europe Framework Convention on AI (2024) - OWASP Top 10 for LLM Applications (2025) - FINMA-Rundschreiben 2023/1 - Heilmittelgesetz (HMG) - Bundesratsbericht zur KI-Regulierung (12. Februar 2025) --- Dieses Dokument ist die Markdown-Fassung der oben verlinkten Seite. Zitieren Sie bitte die HTML-URL.