Passer au contenu principal

Rel-IA

REL-IA SECURE · AUDIT & CONFORMITÉ

Cybersécurité IA : sécurisez vos usages et vos systèmes d'IA

Rel-IA Sécurité est l'offre de cybersécurité IA de Rel-IA. Nous évaluons vos usages, vos outils et vos architectures d'intelligence artificielle selon un référentiel structuré, classons vos systèmes au regard de l'AI Act et construisons une conformité documentée. Objectif : savoir ce qui part en production, avec quels risques, et comment les maîtriser.

IA ET CYBERSÉCURITÉ

Les nouveaux risques introduits par l'IA

L’IA générative ne remplace pas vos risques habituels. Elle en ajoute. Un assistant interne lit vos documents, un agent agit dans vos outils, un modèle reçoit des données qui n’étaient pas prévues pour sortir.

Les risques que nous rencontrons le plus souvent :

  • Injection de prompt : une instruction malveillante, cachée dans un e-mail, une page web ou un document, détourne l’assistant qui le lit.
  • Fuite de données : un collaborateur colle un contrat ou un fichier client dans un outil grand public, ou un assistant restitue un document à quelqu’un qui n’y a pas droit.
  • Shadow AI : des outils utilisés sans validation, hors de tout contrôle de la DSI.
  • Agents trop permissifs : un agent dispose de droits d’écriture, d’envoi ou de suppression bien au-delà de sa mission.
  • Chaîne d’approvisionnement : modèles, extensions, connecteurs et serveurs tiers intégrés sans évaluation.
  • Décisions mal contrôlées : des réponses inexactes reprises telles quelles dans un devis, un avis ou un courrier.

Ces risques sont bien documentés, notamment par l’ANSSI dans ses recommandations de sécurité pour un système d’IA générative. La cybersécurité IA consiste à les traiter avec la même rigueur que le reste du système d’information.

MÉTHODE D'ÉVALUATION

Évaluer avant de déployer : notre référentiel

Notre première intervention répond à une question : ce que vous allez déployer, ou ce que vous utilisez déjà, est-il maîtrisé ?

Nous évaluons trois niveaux :

  1. Les pratiques : qui utilise quoi, pour quelles tâches, avec quelles données. Existe-t-il une charte, des règles, une validation ?
  2. Les outils : paramètres de confidentialité, hébergement, conservation des données, contrats éditeurs, droits d’accès.
  3. Les architectures : flux de données, identités humaines et techniques, connecteurs, garde-fous, supervision.

Notre grille s’appuie sur des référentiels reconnus : ISO/IEC 27001 pour la sécurité de l’information, ISO/IEC 42001 pour le système de management de l’IA, le NIST AI RMF pour la gestion des risques IA, et l’AI Act pour le cadre réglementaire européen. Pour les entités concernées, nous intégrons aussi les exigences de gestion des risques de la directive NIS2.

Les interventions sont menées par des experts issus de la sécurité des systèmes d’information, avec une expérience de grands comptes en sécurité managée, banque et énergie. L’objectif : des livrables qui tiennent face à un auditeur externe.

CONFORMITÉ

Classement AI Act de vos systèmes

L’AI Act (règlement (UE) 2024/1689) classe les systèmes d’IA selon leur niveau de risque. Votre cybersécurité IA doit en tenir compte : les obligations ne sont pas les mêmes selon la catégorie.

Niveau Exemple type Conséquence
Inacceptable Notation sociale Interdit
Haut risque Tri automatisé de CV Documentation, gestion des risques, contrôle humain, journalisation
Risque limité Agent conversationnel Informer les personnes qu’elles échangent avec une IA
Risque minimal Filtre anti-spam Pas d’obligation spécifique

Nous partons de votre inventaire de systèmes IA, même incomplet, pour identifier ce qui relève réellement du haut risque. Pour une analyse réglementaire complète, voir notre audit AI Act.

Vous déployez un assistant ou un agent IA ?

Faites le point sur ses risques lors d'un appel de 30 min, avant la mise en production plutôt qu'après un incident.

TESTS OFFENSIFS

Tests d'injection de prompt et red teaming

Un audit documentaire ne suffit pas toujours. Pour un assistant interne, un RAG ou un agent connecté à vos outils, nous pouvons tester son comportement face à des attaques réalistes, dans un périmètre défini avec vous.

Ce que nous testons, selon le système :

  • Injection directe : un utilisateur tente de contourner les consignes de l’assistant.
  • Injection indirecte : une instruction cachée dans un document, un e-mail ou une page consultée par l’assistant.
  • Exfiltration : l’assistant peut-il être amené à révéler des données, des consignes système ou des documents hors périmètre ?
  • Abus d’outils : un agent peut-il être poussé à envoyer, modifier ou supprimer ce qu’il ne devrait pas ?
  • Contournement des garde-fous : filtres de contenu, règles de DLP, limites d’accès.

Chaque test est encadré : périmètre écrit, environnement de test quand c’est possible, aucune action sur des données de production sans accord. Les résultats sont classés par gravité, avec une correction proposée pour chacun. Pour comprendre le mécanisme, lisez notre article injection de prompt : vos assistants internes sont-ils exposés ?.

DÉTECTER ET TRACER

Journalisation et supervision

Un système IA qu’on ne surveille pas est un angle mort. Nous vérifions, ou mettons en place :

  • La traçabilité des requêtes et des réponses, avec une durée de conservation définie et compatible avec le RGPD.
  • La traçabilité des actions des agents : quel outil a été appelé, avec quels paramètres, à la demande de qui.
  • Des alertes sur les comportements anormaux : volume inhabituel, tentative d’injection, accès hors périmètre.
  • Le raccordement à votre supervision existante (SOC, SIEM) quand il existe.

Pour les systèmes à haut risque, l’AI Act impose en outre des capacités de journalisation automatique des événements. Mieux vaut les prévoir dès la conception.

CE QUE VOUS RECEVEZ

Livrables

Rel-IA Sécurité propose deux interventions, combinables.

Évaluer avant de déployer

Rapport d’audit détaillé, cartographie des risques IA, recommandations priorisées, restitution aux parties prenantes (direction, DSI, RSSI, DPO).

Construire une conformité qui tient

Analyse d’écart ISO/IEC 42001 et AI Act, feuille de route priorisée, accompagnement à la mise en œuvre, documentation traçable et indicateurs de suivi.

La tarification est sur devis, ajustée au périmètre.

  • L’IA ajoute de nouveaux risques : injection de prompt, fuite de données, agents trop permissifs.
  • Nous évaluons pratiques, outils et architectures selon ISO/IEC 27001, ISO/IEC 42001, NIST AI RMF et AI Act.
  • Les tests d’injection et de contournement se font dans un périmètre écrit et encadré.
  • Journalisation et supervision rendent les incidents détectables et traçables.
  • Livrables prêts pour un auditeur externe, et formation des équipes en relais.

FAQ CYBERSÉCURITÉ IA

Questions fréquentes

C’est l’ensemble des mesures qui protègent les usages et les systèmes d’intelligence artificielle : contrôle des données envoyées aux modèles, protection contre l’injection de prompt, gestion des droits des agents, supervision et conformité. Elle complète la sécurité classique du système d’information, car l’IA crée des points d’entrée et des fuites que les outils traditionnels ne couvrent pas toujours.

L’audit AI Act se concentre sur la conformité réglementaire : inventaire, classement des risques, obligations applicables. Notre offre de cybersécurité IA couvre aussi la sécurité technique : architecture, identités, fuites de données, tests d’injection, supervision. Les deux se combinent souvent : l’un dit ce que la loi exige, l’autre vérifie que le système résiste réellement.

Oui, c’est même le cas le plus courant. Le risque ne vient pas seulement de l’outil, mais de son paramétrage et des usages : comptes personnels, données collées, connecteurs activés, conservation des historiques. Une évaluation ciblée sur vos usages permet de poser des règles claires et de choisir les bons réglages.

Les systèmes d’IA font partie de votre système d’information. S’ils traitent des données ou pilotent des processus critiques, ils entrent dans votre analyse de risques et vos mesures de sécurité. Nous intégrons l’IA dans cette démarche plutôt que de la traiter à part. Notre article sur NIS2 et l’IA détaille les points à anticiper.

Non, s’ils sont bien encadrés. Nous définissons avec vous un périmètre écrit, privilégions un environnement de test et n’agissons jamais sur des données de production sans votre accord explicite. Les scénarios sont documentés et les résultats vous sont remis avec une correction pour chaque faille identifiée.

À VOIR AUSSI

Pour aller plus loin

Adoptez l'IA avant qu'elle ne s'installe sans vous.

Vous préférez qu'on s'en occupe ? Rel-IA Agence construit vos automatisations de A à Z. Échange gratuit →

Demander un devis☎