PÔLE CYBER IA
Centre d'ingénierie dédié à la cybersécurité
de l'IA, face à l'IA et aux menaces émergentes
Le Pôle Cyber IA, fondé par Damien SOULÉ (AI Red Teaming & Security Engineering Lead) et co-dirigé avec Dan Thuy VO (AI Engineering & Data Science), est un centre d'ingénierie dédié à la cybersécurité de l'IA, face à l'IA et aux menaces émergentes.
Notre ingénierie traduit les normes européennes (ETSI, CEN-CENELEC) et internationales (ISO/IEC) en contrôles opérationnels concrets, pour contribuer à l'alignement avec les exigences réglementaires européennes (AI Act, NIS 2, RGPD, DORA).
Cette dimension technique est complétée par un réseau de partenaires GRC certifiés ISO 27001 et ISO 42001, dont l'expertise couvre l'audit et la mise en conformité, avec des références dans les secteurs sensibles (défense, finance, assurance).
Nos axes de travaux
Cybersécurité des systèmes d'IA
Les systèmes d'IA présentent des vulnérabilités spécifiques que les approches classiques ne couvrent pas. Un modèle peut être compromis par empoisonnement de ses données d'entraînement, contourné par des exemples adversariaux, ou détourné de ses objectifs.
Nos travaux couvrent l'ensemble du cycle de vie (conception, développement, déploiement, maintenance, retrait) en intégrant les contrôles de sécurité à chaque phase, en parallèle du développement algorithmique.
Sécurisation des systèmes agentiques
Les architectures agentiques déplacent le risque de la donnée vers l'action. Capables d'agir avec un degré d'autonomie variable, d'enchaîner des outils et d'interagir avec des environnements physiques ou numériques, ces systèmes introduisent des risques que les cadres de sécurité traditionnels ne couvrent pas : injection via retours d'outils, corruption de mémoire inter-sessions, escalade de privilèges non contrôlée, détournement d'objectifs.
Nous développons une expertise spécifique sur ces architectures pour contribuer à la maîtrise des risques liés à l'autonomie d'action et à l'enchaînement des décisions.
Cybersécurité face à l'IA et aux menaces quantiques
Cybersécurité face à l'IA
L'IA représente une opportunité croissante pour les cyberattaquants : automatisation et personnalisation des attaques à grande échelle, mutation accélérée des menaces, contournement des défenses existantes. Ces dynamiques modifient profondément la surface d'exposition des organisations qui déploient des systèmes d'IA dans des environnements critiques.
Menaces quantiques
La menace quantique introduit un risque structurel pour les systèmes à longue durée de vie. La stratégie "Harvest Now, Decrypt Later" consiste à collecter dès aujourd'hui des données chiffrées pour les déchiffrer une fois les capacités quantiques disponibles. Pour les systèmes agentiques opérant sur des actifs sensibles (modèles propriétaires, données d'entraînement, communications entre agents), cette contrainte est opérationnelle dès la phase de conception.
Nous intégrons la cryptographie post-quantique comme contrainte d'architecture dès la conception (Quantum Secure by Construction) et accompagnons les organisations dans leur migration progressive vers des mécanismes hybrides combinant algorithmes classiques et post-quantiques.
Nos services
Les modalités précises sont définies lors de l'échange initial, en fonction de votre contexte, de vos priorités et de vos contraintes.
Les éléments ci-dessous sont indicatifs et non contractuels.
Conseil stratégique et formation aux enjeux Cyber IA
Avant toute intervention technique, nous proposons si besoin, une étape de cadrage dédiée aux responsables impliqués dans la sécurisation de projets IA. L'objectif est de clarifier le périmètre de la cybersécurité des systèmes d'IA, de maîtriser la hiérarchie des référentiels normatifs et informatifs applicables, et de définir une feuille de route priorisée.
AI Red Teaming / Agentic AI Red Teaming
Un système d'IA peut fonctionner correctement en conditions normales et présenter des vulnérabilités significatives face à des entrées malveillantes, des manipulations de données ou des comportements adversariaux. Ces vulnérabilités restent invisibles sans tests offensifs dédiés et peuvent avoir des conséquences opérationnelles, juridiques ou réputationnelles directes.
L'AI Red Teaming consiste à simuler ces attaques de manière structurée sur les systèmes d'IA générative et les architectures agentiques, dont l'autonomie d'action amplifie la surface d'exposition. Nos interventions couvrent l'ensemble du cycle de vie et produisent des preuves techniques de sécurité alignées sur les référentiels normatifs européens et internationaux.
L'objectif n'est pas d'atteindre une sécurité absolue qui n'existe pas, mais de disposer d'une évaluation honnête du niveau de risque réel pour orienter les priorités et les investissements de sécurité pour les projets IA en cours ou à venir.
Ingénierie IA sécurisée par conception
Si vos enjeux portent sur le développement de systèmes d'IA sécurisés par conception pour des cas d'usage métier, notre équipe d'ingénierie IA vous accompagne : maintenance prédictive, détection d'anomalies, supervision de systèmes critiques, aide à la décision, et plus largement tout déploiement d'IA dans un environnement soumis à NIS 2 où innovation et sécurité sont indissociables.
→ Découvrir nos cas d'usage IA
Accompagnement à la conformité réglementaire
Les travaux d'ingénierie du Pôle s'articulent avec les exigences réglementaires applicables : AI Act, NIS 2, DORA, RGPD, ISO 27001 et ISO 42001. Pour les besoins d'accompagnement à la conformité, le Pôle coordonne un réseau de partenaires GRC spécialisés, afin d'articuler les exigences réglementaires et les dispositifs de sécurité sans dissocier ingénierie et conformité.
Publics visés
Opérateurs d'Importance Vitale (OIV), entités essentielles, entités importantes, et plus généralement les organisations qui déploient des systèmes d'IA dans des environnements critiques et qui ont besoin d'une ingénierie technique spécialisée, souveraine et alignée sur le cadre réglementaire européen.
Échange initial
Un premier échange permet de qualifier rapidement votre situation : niveau de maturité, exposition au risque, priorités techniques et contraintes réglementaires.
À l'issue de cet échange, nous pouvons vous orienter vers une formation aux enjeux de cybersécurité des systèmes d'IA ou des interventions techniques (AI Red Teaming, AI Security Engineering).
Échange confidentiel : cadrage stratégique et technique, sans engagement, centré sur vos enjeux opérationnels.
Nos partenaires GRC
Nos partenaires GRC, certifiés ISO 27001 et ISO 42001, interviennent dans l’audit et la mise en conformité, en s'appuyant sur les référentiels des organismes européens de normalisation (ETSI, CEN-CENELEC) et les normes internationales (ISO/IEC), l'objectif étant d'accompagner le développement d'IA techniquement sécurisées et juridiquement conformes aux exigences européennes (AI Act, NIS 2, RGPD, DORA).
Cette expertise, portée par des professionnels certifiés CISSP et consolidée par des interventions auprès de grands groupes des secteurs de la défense, de l’aérospatiale et de l’assurance (Thales, Airbus, AG2R La Mondiale... ), complète nos services d’ingénierie IA et cybersécurité.
Cette démarche vise à aligner le développement des systèmes d’IA avec le cadre réglementaire européen en traduisant les exigences normatives en contrôles opérationnels et en artefacts de vérification dès les phases de conception et de validation.