Depuis le 2 février 2025, les pratiques d'IA énumérées à l'art. 5 de l'AI Act européen sont interdites dans l'ensemble de l'UE – avec le cadre de sanctions le plus sévère de tout le règlement : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial (art. 99, par. 3). La Commission a publié le 4 février 2025 les lignes directrices C(2025) 884 final qui clarifient les questions d'interprétation. Les PME suisses sont concernées dès qu'elles mettent sur le marché dans l'UE un système interdit, le mettent en service ou que son output y est utilisé (art. 2, par. 1, lit. c).

Cet article explique chacune des huit catégories d'interdiction avec des exemples réalistes tirés du quotidien des PME suisses :

• Manipulation subliminale (art. 5, par. 1, lit. a)
• Exploitation de la vulnérabilité (art. 5, par. 1, lit. b)
• Notation sociale (art. 5, par. 1, lit. c)
• Prédiction policière sur la base du profilage (art. 5, par. 1, lit. d)
• Scraping non ciblé d'images de visages (art. 5, par. 1, lit. e)
• Reconnaissance des émotions sur le lieu de travail / en éducation (art. 5, par. 1, lit. f)
• Catégorisation biométrique selon des caractéristiques protégées (art. 5, par. 1, lit. g)
• Biométrie à distance en temps réel dans l'espace public à des fins répressives (art. 5, par. 1, lit. h)

Les huit interdictions ne sont pas académiques : les outils d'IA émotionnelle en milieu de travail et de scoring RH sont répandus sur le marché des PME – souvent sans que les entreprises utilisatrices sachent qu'elles recourent à une pratique interdite.

L'art. 5, par. 1, lit. a interdit les systèmes d'IA qui utilisent des techniques subliminales au-delà de la conscience humaine ou des techniques intentionnellement manipulatrices ou trompeuses, dans le but ou avec l'effet de déformer substantiellement le comportement d'une personne ou d'un groupe, en altérant notablement sa capacité de décision éclairée, causant ou étant susceptible de causer un préjudice significatif. Trois éléments constitutifs doivent être cumulativement réunis : subliminal/manipulateur, déformation substantielle du comportement, préjudice significatif.

Exemple réaliste de PME suisse : un chatbot IA pour l'acquisition de services de conseil en surendettement qui intègre des menaces de poursuites de manière subliminale dans un modèle de discours rythmique pour forcer la conclusion de contrats. Clairement interdit. Cas limite : optimisation de dark patterns dans les checkouts d'e-commerce. Les lignes directrices de la Commission précisent que l'optimisation UX classique (tests A/B, réduction de la charge cognitive) ne relève pas de l'interdiction, pour autant qu'elle ne cause pas de préjudice systématique. La tarification personnalisée dans des situations de concurrence n'est pas subliminale au sens du lit. a, mais peut relever du lit. b si elle exploite délibérément des groupes vulnérables.

L'art. 5, par. 1, lit. b interdit l'exploitation de la vulnérabilité en raison de l'âge, d'un handicap ou d'une situation sociale ou économique spécifique d'une personne ou d'un groupe de personnes, dans le but ou avec l'effet de déformer substantiellement le comportement et d'être susceptible de causer un préjudice significatif. Contrairement au lit. a, la manipulation ne doit pas être subliminale – il suffit qu'un groupe vulnérable soit délibérément ciblé.

Exemples de PME suisses : un outil de recouvrement de créances assisté par IA qui pousse délibérément des particuliers surendettés, sous pression psychologique, à contracter de nouveaux crédits – interdit. Un ciblage publicitaire visant des « seniors sans expérience numérique » proposant des modèles d'abonnement peu clairs – interdit. Un chatbot téléphonique IA d'une caisse-maladie qui pousse délibérément des assurés fragilisés psychologiquement vers des assurances complémentaires inadaptées – interdit. Cas limite : publicité ciblée auprès de familles avec jeunes enfants pour des produits adaptés à leur âge – non interdit, pour autant qu'aucun préjudice ne soit causé.

L'art. 5, par. 1, lit. c interdit la notation sociale basée sur l'IA par des entités publiques ou privées, qui évalue ou classe des personnes physiques ou des groupes sur une période donnée en fonction de leur comportement social ou de caractéristiques personnelles connues, déduites ou prédites, lorsque cela conduit à un traitement défavorable ou désavantageux dans des contextes sans rapport avec les contextes dans lesquels les données ont été initialement générées ou collectées, ou à un traitement injustifié ou disproportionné.

Exemple classique : le système de crédit social chinois. Pertinence pour les PME suisses : un programme de fidélité client qui utilise le comportement en ligne dans un contexte (messages de réclamation sur des forums) pour une tarification désavantageuse dans des domaines non liés (par exemple, primes d'assurance de la société sœur) relève de l'interdiction. Important : tout scoring n'est pas une notation sociale – le scoring de crédit basé sur des critères financiers clairement définis dans le contexte financier est autorisé (mais à haut risque selon l'Annexe III). Ce qui est interdit, c'est le franchissement du contexte avec un traitement désavantageux.

L'art. 5, par. 1, lit. f interdit les systèmes d'IA destinés à déduire les émotions sur le lieu de travail et dans les établissements d'enseignement – sauf à des fins médicales ou de sécurité. L'interdiction est large et touche les PME de manière inattendue. Les outils de surveillance du lieu de travail qui utilisent l'analyse vocale des agents de centres d'appels pour mesurer le stress ou l'engagement sont interdits. Les outils qui analysent les webcams lors de réunions en ligne pour mesurer l'attention des élèves ou des stagiaires sont interdits. Les IA de recrutement qui analysent les expressions faciales dans les vidéos de candidature sont interdites.

Exceptions : les applications médicales (par exemple, le suivi de l'humeur dans le coaching en cas de burn-out par une application certifiée sur prescription médicale) et les applications de sécurité (par exemple, la détection de fatigue chez les conducteurs de machines dans la production sidérurgique pour la prévention des accidents). La délimitation est stricte : les « applications de bien-être » pour les employés utilisées sans indication diagnostique relèvent de l'interdiction. Les PME suisses qui utilisent de tels outils dans les RH ou dans le domaine de la formation en ligne doivent examiner leur configuration et éventuellement changer de fournisseur.

L'art. 5, par. 1, lit. g interdit les systèmes de catégorisation biométrique qui classent individuellement des personnes physiques sur la base de leurs données biométriques pour déduire la race, les opinions politiques, l'appartenance syndicale, les convictions religieuses ou philosophiques, la vie sexuelle ou l'orientation sexuelle. Le tri de jeux de données biométriques dans des contextes de répression sous des conditions strictes reste autorisé. Pertinence pour les PME suisses : les outils qui utilisent la reconnaissance faciale dans des plateformes publicitaires ou de recrutement pour équilibrer la composition ethnique des pools de données sont concernés.

L'art. 5, par. 1, lit. h interdit l'utilisation de systèmes d'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins de répression – avec trois exceptions étroitement définies (recherche ciblée de victimes, prévention d'une attaque terroriste imminente, identification de suspects présumés d'infractions pénales graves selon une liste exhaustive). Cette disposition touche principalement les autorités, non les PME suisses. Pertinence pour les PME : qui fournit une infrastructure de caméras aux autorités en tant que prestataire de services doit vérifier si la configuration remplit les conditions – les obligations du fournisseur selon l'art. 25 peuvent s'appliquer.

L'art. 5, par. 1, lit. d interdit les systèmes d'IA destinés à évaluer le risque que représente une personne physique de commettre une infraction pénale, uniquement sur la base d'un profilage ou d'une évaluation des traits de personnalité. Le soutien à des évaluations humaines fondées sur des faits objectifs et vérifiables directement liés à une activité criminelle n'est pas interdit. Pertinence pour les PME suisses principalement en tant que fournisseur de technologie policière ou de logiciels de justice.

L'art. 5, par. 1, lit. e interdit le scraping non ciblé d'images de visages sur Internet ou dans des enregistrements de vidéosurveillance pour créer ou enrichir des bases de données de reconnaissance faciale. Exemple bien connu : le modèle Clearview AI. Pertinence pour les PME suisses : tout outil combinant le scraping web avec l'analyse faciale est concerné. Même un cas d'usage apparemment « doux » comme la collecte de photos d'employés sur LinkedIn pour constituer une base de données faciale interne relève de l'interdiction si le scraping n'est pas ciblé (avec le consentement de chaque employé concerné).

SIDD examine vos outils d'IA et vos fournisseurs pour détecter les risques liés à l'art. 5. Nous effectuons la classification initiale par système, documentons l'analyse des cas limites en référence aux lignes directrices de la Commission C(2025) 884, et élaborons – lorsqu'une interdiction menace – des configurations alternatives ou des changements de fournisseur. En cas de violations constatées, nous accompagnons le retrait ordonné (mise hors service, rappel, information des personnes concernées, communication avec les autorités).

Plus d'informations sur nos prestations en matière de conformité IA sous Conseil en protection des données Suisse et pour les filiales dans l'UE sous Mandats DPO RGPD. Pour la sensibilisation des employés – un élément central, car les violations émanent souvent de décisions d'achat opérationnelles – nous combinons avec des ateliers de protection des données. Un tri rapide de vos outils d'IA utilisés pour détecter les risques liés à l'art. 5 peut être discuté via notre formulaire de contact ; un mandat concret est demandé via notre formulaire d'offre. Qui met sur le marché une pratique interdite risque non seulement 35 millions EUR, mais aussi la commercialisabilité future dans l'UE de ses produits d'IA.