Sécurité IA : tests d'intrusion et red teaming pour systèmes IA et LLM
Nous testons vos fonctionnalités d'IA comme un attaquant les attaquerait : injection de prompt, exfiltration de données, RAG manipulé et agents détournés. Vous recevez des chemins d'attaque documentés de manière traçable, des recommandations de remédiation et des preuves auditables destinées à vos clients, à vos auditeurs et en vue des futures exigences de l'art. 15 AI Act.
Sur projet · prix fixe selon le périmètreOWASP Top 10 for LLM ApplicationsPremiers résultats généralement en 1–2 semaines
Gratuit et sans engagement · 30 minutes · confidentiel sous NDA · aucune installation d'outils nécessaire
Droit und La technique au sein d'un seul mandat, la qualification au regard de l'AI Act et les tests OWASP / MITRE ATLAS sous un même toit.
Au service des secteurs réglementés et des PME
Dr. iur., LL.M., CIPP/E
Des résultats qui tiennent devant le conseil d'administration et l'autorité de contrôle
OWASP LLM Top 10 · MITRE ATLAS
Cadres de test reconnus pour les systèmes d'IA
Confidentialité et conservation des données en Suisse
NDA, obligation de confidentialité, données en Suisse
Conseil et contrôle séparés
crédible vis-à-vis des auditeurs
Direction technique de ce mandat
Oliver Stutz
Co-Founder · InfoSec & Cybersecurity Expert · Bachelor of IT (Bond University)
Oliver Stutz dirige les tests techniques de vos systèmes d'IA selon OWASP, MITRE ATLAS et NIST AI RMF et est responsable du centre de développement SIDD pour la sécurité technique de l'information, la sécurité du cloud et l'intégration de l'IA générative. La qualification juridique au regard de l'AI Act et de la nLPD (LPD suisse) est assurée par Dr. Dominic Staiger (CIPP/E, Attorney at Law). On obtient ainsi des résultats à la fois techniquement solides et défendables devant l'autorité de contrôle, les clients et le conseil d'administration.
L'AI Security est le test technique de sécurité des systèmes d'IA, LLM, RAG et agentiques. Chez nous, AI Security, test de sécurité de l'IA, test d'intrusion LLM et AI red teaming désignent la même prestation. Contrairement au test d'intrusion classique, qui examine des applications et infrastructures déterministes, l'AI Security s'attaque aux surfaces d'attaque spécifiques des systèmes de traitement du langage et semi-autonomes : injection de prompt, divulgation d'informations sensibles, traitement non sécurisé des sorties, autonomie d'action excessive des agents ainsi que l'empoisonnement des données d'entraînement et de récupération. Les tests sont menés selon des cadres reconnus : l'OWASP Top 10 for LLM Applications (2025), MITRE ATLAS et le NIST AI Risk Management Framework.
Un système d'IA ne se comporte pas de manière déterministe. Une même entrée peut produire des sorties différentes, et les attaques se cachent dans un texte d'apparence anodine, par exemple dans un document que votre système de récupération ingère ou dans une page web que votre agent consulte (injection de prompt indirecte). Un test ponctuel ne fournit donc qu'un instantané. Nous travaillons avec des campagnes semi-automatisées et reproductibles qui parcourent systématiquement les chemins d'attaque typiques et les documentent de manière traçable, comme base pour la remédiation, le re-test et la preuve vis-à-vis de tiers.
Avez-vous besoin d'un examen de sécurité de l'IA ?
La sécurité de l'IA devient pertinente dès qu'un système d'IA a un effet vers l'extérieur ou obtient accès à des données et des fonctions sensibles. Les quatre déclencheurs suivants sont les plus fréquents en pratique ; si l'un d'entre eux vous concerne, un premier entretien est utile.
1
Mise en production d'une fonction d'IA : Vous mettez en production un chatbot destiné aux clients, une recherche RAG ou un agent, et vous devez savoir avant le lancement s'il peut être manipulé ou détourné à des fins d'exfiltration de données.
2
Exigence d'un auditeur ou d'un client : Un client de l'UE, un questionnaire d'achat ou un audit ISO 27001 exige la preuve que vos systèmes d'IA ont été testés et sécurisés.
3
Classification à haut risque au titre de l'AI Act : Si votre système relève des catégories à haut risque (art. 6 et suivants, annexe III), l'art. 15 de l'AI Act exigera à l'avenir des preuves d'exactitude, de robustesse et de cybersécurité, y compris une protection contre, entre autres, l'empoisonnement des données, l'empoisonnement des modèles et les exemples adverses (art. 15, par. 5). À la suite de l'accord provisoire « Digital AI Omnibus », l'applicabilité de ces obligations devrait être reportée ; jusqu'à la publication au Journal officiel, les délais initiaux font foi.
4
Incident ou quasi-incident : Un testeur, un client ou un chercheur a signalé une injection de prompt, une fuite de données ou un comportement d'agent dévoyé, et le conseil d'administration veut en comprendre l'ampleur.
Ce qui nous rend uniques
Droit, ingénierie logicielle et développement d'IA en interne, au sein d'une même équipe
Chez nous, ces trois disciplines s'imbriquent au sein d'une même équipe. Ni un cabinet d'avocats au sens strict ni un cabinet de conseil classique ne peut offrir cette combinaison. Voici comment nous examinons vos systèmes d'IA avec le savoir-faire de ceux qui conçoivent eux-mêmes de l'IA, tout en situant chaque constat sur le plan juridique.
01
Une expertise juridique approfondie
Des juristes titulaires d'un doctorat et des qualifications CIPP/E, Attorney at Law (NY) et Solicitor (R.-U.). Nous classifions l'IA en toute sécurité juridique selon l'AI Act, la LPD et le RGPD, sur la base de mandats en cours plutôt que de manuels.
02
Nos propres ingénieurs logiciels
Notre propre centre de développement et la Plateforme Priverion. Nous savons comment les systèmes d'IA sont construits aujourd'hui et nous vérifions ce qu'un système fait réellement sur le plan technique, plutôt que de nous fier à des déclarations sur l'honneur.
03
Développement d'IA en interne
Nous développons et exploitons nos propres systèmes LLM et IA. Nous connaissons ainsi de première main les bonnes pratiques et les écueils, du RAG à la sécurité des prompts.
De quoi nous chargeons-nous ?
Nous examinons votre système d'IA sur l'ensemble de la surface d'attaque, du modèle aux couches d'entrée et de sortie, jusqu'aux outils, aux sources de données et à la chaîne d'approvisionnement. Le périmètre est défini par écrit avant le début et adapté à votre système.
Modélisation des menaces (threat modelling) pour les architectures LLM, RAG et agentiques : inventaire des modèles, des outils, des jeux de données, des identités et des frontières de confiance.
Tests d'injection de prompt, directe (jailbreaks) et indirecte via des contenus manipulés dans les sources RAG, les documents et les pages web récupérées (OWASP LLM01).
Examen de la divulgation d'informations sensibles et de la fuite de prompt système (OWASP LLM02, LLM07).
Traitement non sécurisé des sorties : Tests de XSS, SSRF et d'exécution de code via des sorties de modèle non filtrées (OWASP LLM05).
Pouvoir d'action excessif des agents (excessive agency) : Examen des agents et des appels d'outils dotés de droits d'écriture, de transaction ou système, à la recherche d'abus et de l'absence de limites (OWASP LLM06 ; OWASP Agentic Security Initiative).
Sécurité du RAG et des bases de données vectorielles : Empoisonnement de la base de connaissances (data store poisoning), fuites de données entre locataires (cross-tenant leaks) et faiblesses des embeddings (OWASP LLM04, LLM08).
Chaîne d'approvisionnement des modèles et MLOps : Évaluation de la provenance des modèles, du contrôle de version, de la validation des mises à jour et des SBOM pour les composants d'IA (OWASP LLM03).
Consommation incontrôlée de ressources et de coûts (unbounded consumption / « denial of wallet ») : Tests de consommation illimitée (OWASP LLM10).
Alignement sur les référentiels : Mise en correspondance des constats avec NIST AI RMF, MITRE ATLAS et les contrôles de sécurité de la norme ISO/IEC 42001:2023.
Documentation probante : constats documentés de manière traçable, avec niveau de gravité, recommandation de correction et preuve, au regard de l'art. 15 de l'AI Act et de la norme ISO 27001 Annexe A; sur demande, nouveau test après correction.
Charge de travail et profondeur de l'examen
La charge de travail dépend de l'architecture et de la surface d'attaque ; une simple application de chat LLM est examinée plus rapidement qu'un système agentique doté de plusieurs outils, de sources de données externes et de droits de transaction. Nous définissons le périmètre au préalable et établissons un devis sur la base du projet. Comme les systèmes d'IA sont probabilistes, nous recommandons des campagnes répétées plutôt qu'un test unique.
10
Catégories de risques : parcours complet de l'OWASP Top 10 for LLM Applications (2025).
MITRE ATLAS
Couverture des tactiques et techniques pertinentes pour votre architecture, selon le périmètre.
2 nouveaux tests
généralement inclus, afin de démontrer l'efficacité de la correction.
Forfaits de prestations
Nous travaillons par projet. Au lieu de forfaits mensuels, vous choisissez une profondeur d'analyse adaptée à votre architecture et à vos besoins en matière de preuve. Tous les prix sont indicatifs ; l'offre à prix fixe contraignante suit après le cadrage.
Campagnes de tests adverses continues pour les systèmes à haut risque ou en vue de la préparation aux exigences relatives au haut risque (art. 15 AI Act).
Campagnes de red team répétées et partiellement automatisées
Couverture complète OWASP LLM et agentique sur plusieurs cycles
Dossier de preuves orienté vers l'art. 15 AI Act et l'Annexe A d'ISO 27001
Intégration dans votre SMSI / votre gouvernance ISO 42001
Accompagnement du conseil d'administration et de la surveillance par le Dr Staiger
Vous ne savez pas quelle profondeur d'analyse convient ? Convenir d'un premier entretien, nous délimitons le périmètre ensemble.
Notre démarche
Le processus est conçu pour la reproductibilité et la défendabilité ; chaque phase fournit des preuves documentées.
Cadrage et classification
Nous clarifions l'architecture, les données, les outils et le rôle juridique (fournisseur ou déployeur, classe de risque selon l'AI Act) et définissons par écrit le périmètre de l'évaluation.
Modélisation des menaces
Nous cartographions les surfaces d'attaque, les frontières de confiance et les chemins critiques selon le OWASP LLM Top 10 et MITRE ATLAS.
Test actif
Attaques semi-automatisées et manuelles, injection de prompt, exfiltration de données, traitement des sorties, abus des agents/RAG.
Analyse et rapport
Chaque constat est assorti d'un niveau de gravité, des étapes de reproduction et d'une recommandation concrète de correction; mise en correspondance avec l'AI Act, ISO 42001 et ISO 27001.
Accompagnement de la correction et nouveau test
Nous vérifions les mesures mises en œuvre et documentons leur efficacité.
Preuve et répétition
Vous recevez un dossier de preuves destiné aux auditeurs et aux clients; pour les systèmes probabilistes, nous recommandons des campagnes récurrentes.
Pourquoi SIDD
Ce que les trois disciplines ci-dessus signifient pour la sécurité de vos systèmes d'IA :
Nous savons comment les LLM cèdent
Parce que nous construisons nous-mêmes des systèmes LLM et IA, nous connaissons les vulnérabilités issues du développement, et pas seulement des listes de contrôle, de l'injection de prompt aux agents non sécurisés.
Cadres d'évaluation reconnus
OWASP Top 10 for LLM Applications, MITRE ATLAS et NIST AI RMF, mis en correspondance avec ISO/IEC 42001 et norme ISO 27001 Annexe A.
Constat plus qualification juridique
Chaque constat technique fait simultanément l'objet d'une qualification juridique (art. 15 AI Act), de sorte que les résultats résistent face aux clients, aux auditeurs et au conseil d'administration.
Confidentiel, données en Suisse
NDA et obligation de confidentialité; les constats et les données restent en Suisse. Lorsque le Dr Staiger procède à la qualification juridique, le secret professionnel de l'avocat (art. 321 CP) s'applique en outre.
Conseil et contrôle séparés
Nous séparons strictement le conseil et l'évaluation, ce qui rend nos constats crédibles auprès des auditeurs.
Des preuves plutôt que des diapositives
Inventaire IA, risques et constats vérifiables sur la Plateforme Priverion, sur demande avec un nouveau test après correction.
Comparaison entre test d'intrusion classique et AI Security
Les deux évaluations ont leur place. Un fournisseur de LLM cloud existant sécurise son modèle, et non votre application qui l'entoure. Le tableau suivant montre pourquoi un test d'intrusion classique ne couvre pas les risques propres à l'IA.
Aspect
Test d'intrusion classique
AI Security / test d'intrusion LLM
Objet de l'évaluation
Web, réseau, API, infrastructure
LLM, RAG, agents, chaîne d'approvisionnement du modèle
Avant le déploiement interne d'un assistant de connaissances basé sur RAG, nous avons testé le système contre l'injection de prompt indirecte et l'accès aux données entre locataires. Trois chemins critiques menant à la divulgation de documents non validés ont été fermés avant la mise en production et confirmés lors du nouveau test. (Anonymisé, industrie réglementée.)
Fournisseur SaaS dans le domaine de la santé
Agent IA orienté client
Pour un fournisseur disposant d'un agent orienté client utilisant des outils, nous avons élaboré un modèle de menaces et un dossier de preuves rendant les aspects de robustesse et de cybersécurité (au regard de l'art. 15 AI Act) démontrables auprès des clients et des auditeurs. (Anonymisé, SaaS de santé.)
LexCMD
Notre outil : LexCommand
Pourquoi nous travaillons avec LexCommand, notre propre IA juridique suisse
LexCommand est notre IA juridique interne, adossée à des citations, pour le droit de la Suisse, de l'Allemagne, de l'Autriche et de l'UE. Développée et exploitée de manière souveraine en Suisse par Priverion GmbH, l'entreprise derrière SIDD. Nous ne faisons pas que prôner la souveraineté des données et la traçabilité, nous les avons intégrées dans notre propre outil, en complément de la Plateforme Priverion.
01
Souverain en Suisse
L'IA fonctionne en auto-hébergement sur une infrastructure suisse, sans LLM cloud externes. En tant qu'entreprise suisse indépendante sans société mère étrangère, nous traitons vos documents dans un environnement que nous maîtrisons.
02
Pas de citation, pas d'affirmation
Chaque affirmation juridique renvoie à une source primaire consultable, sinon elle n'apparaît pas. Nos recommandations deviennent ainsi vérifiables et auditables, au lieu de seulement paraître plausibles.
03
De l'effort au jugement
LexCommand prend en charge la recherche, le recoupement et le sourcing. Cela réduit les délais et libère nos conseillers seniors pour le jugement et l'échange avec le client, sans rien céder sur la rigueur.
04
Trois disciplines, une seule vue
Nous examinons la protection des données, la sécurité de l'information et la sécurité de l'IA sur une base de sources partagée avec un crosswalk de référentiels. Vous voyez ainsi les obligations qui se recoupent dans une vue consolidée, au lieu de trois analyses isolées.
Concrètement pour l'audit AI Security : LexCommand étaye le rattachement juridique de chaque constat à l'art. 15 du règlement IA, à l'annexe A d'ISO 27001 et à l'ISO/IEC 42001 avec une source exacte dans le dossier de preuves, et retient, vu le décalage des échéances du règlement IA, la version de chaque norme en vigueur à la date de référence retenue.
Déterministe dans le temps (à la date du jour ou à toute date de référence), avec cloisonnement des juridictions (CH/DE/AT/EU) et un vérificateur de citations à la fin de chaque réponse.
Questions fréquentes
Combien coûte une évaluation de sécurité de l'IA ?
L'évaluation est basée sur un projet. Une seule application LLM se situe généralement entre CHF 8'000–15'000, les systèmes RAG et agents entre CHF 15'000–30'000, et les programmes red-team continus à partir de CHF 30'000. Le prix fixe contraignant est établi après le cadrage.
Une évaluation unique suffit-elle ?
Pour un premier état des lieux, oui. Comme les systèmes d'IA sont probabilistes et que les modèles, prompts et sources de données évoluent, nous recommandons des campagnes répétées. Une évaluation est un instantané, pas une garantie durable.
Notre LLM provient d'un grand fournisseur cloud, n'est-ce pas déjà sécurisé ?
Le fournisseur sécurise le modèle, pas votre application. L'injection de prompt, le traitement non sécurisé des sorties, les droits d'agent excessifs et le RAG manipulé surviennent dans votre intégration, c'est précisément là qu'intervient notre évaluation.
Combien de temps dure un projet ?
Une seule application LLM est généralement évaluée et documentée en une à deux semaines. Les systèmes RAG et agents prennent plus de temps. Nous planifions le nouveau test après la correction des constats.
Cela nous rend-il conformes à l'AI Act ?
Non, une conformité garantie n'existe pas. Nous fournissons des constats techniques et des preuves qui contribuent à satisfaire les exigences (futures) de l'art. 15 AI Act (exactitude, robustesse, cybersécurité) et norme ISO 27001 Annexe A qui rendent votre diligence démontrable. Cela ne remplace pas un conseil juridique au cas par cas.
À partir de quand les obligations de l'AI Act s'appliquent-elles aux systèmes à haut risque ?
Les interdictions (art. 5) et la maîtrise de l'IA (art. 4) s'appliquent depuis le 02.02.2025, les obligations GPAI depuis le 02.08.2025. La plupart des obligations relatives aux systèmes à haut risque (annexe III) étaient initialement prévues à partir du 02.08.2026. À la suite de l'accord provisoire sur le « Digital AI Omnibus », elles devraient être reportées respectivement au 02.12.2027 (annexe III) et au 02.08.2028 (annexe I). Au 18.06.2026, cet accord n'avait pas encore été publié au Journal officiel de l'UE et n'est donc pas définitif ; jusqu'à son adoption formelle, les délais initiaux s'appliquent formellement. Par précaution, nous planifions selon les deux scénarios. Les exigences de l'art. 15 (exactitude, robustesse, cybersécurité) suivent le calendrier des systèmes à haut risque. Nous mettons cette information à jour en continu.
Comment cela s'articule-t-il avec notre CISO ou notre DPO ?
Nous travaillons en responsabilité partagée. Les constats de sécurité de l'IA s'intègrent dans un ISMS existant et dans le travail du CISO und délégué à la protection des données (DPO) ; l'analyse d'impact sur les droits fondamentaux (FRIA, art. 27 AI Act), dans la mesure où elle s'applique à votre système, peut être menée parallèlement à l'AIPD (art. 35 RGPD). Sur demande, nous associons l'évaluation à nos prestations ISMS/ISO 27001, Test d'intrusion et au rôle d' AI Officer.
Dernière révision : 18.06.2026 par le Dr Dominic Staiger. Cette page ne remplace pas un conseil juridique au cas par cas.
Rendre démontrable la sécurité de vos systèmes d'IA
Nous évaluons vos systèmes LLM, RAG et agents selon OWASP, MITRE ATLAS et au regard de l'art. 15 AI Act, et livrons des constats qui résistent face aux clients, aux auditeurs et au conseil d'administration.