Mémoire technique de sécurité — Smart AI

Objet

Le présent document décrit l’architecture fonctionnelle, les contrôles de sécurité, les mécanismes de protection, la traçabilité et les mesures de gouvernance mises en œuvre sur le composant d’Intelligence Artificielle Smart AI, intégré dans la plateforme SmartOSH de PrevenControl.

L’objectif de ce mémoire technique est de fournir des informations détaillées sur le fonctionnement du système IA, ses contrôles de sécurité et son intégration dans l’écosystème technologique et organisationnel de SmartOSH, répondant aux exigences des clients enterprise, aux audits de cybersécurité et aux cadres réglementaires liés à l’Intelligence Artificielle, à la protection des données et à la sécurité de l’information.

Smart AI fait partie du périmètre corporatif du Système de Gestion de la Sécurité de l’Information (SGSI) de SmartOSH, certifié selon ISO/IEC 27001 et Schéma National de Sécurité (ENS) catégorie HAUTE, incorporant également des principes et contrôles alignés avec les cadres de gouvernance de l’Intelligence Artificielle et l’intégration progressive de contrôles basés sur ISO/IEC 42001.

La solution a été conçue selon les principes de Security by Design, Privacy by Design et supervision humaine effective, minimisant la surface d’exposition du composant IA et évitant les modèles autonomes d’opération.

Finalité et périmètre fonctionnel

Smart AI est un système d’assistance intelligente intégré dans la plateforme SmartOSH dont le but est d’assister opérationnellement les utilisateurs authentifiés dans des tâches liées à la gestion de la Sécurité et Santé au Travail, l’exploitation intelligente de l’information, le support documentaire, la génération assistée de contenu et les requêtes contextuelles sur l’information existante dans l’environnement SmartOSH.

Le système a été conçu comme un composant de soutien opérationnel et de productivité, maintenant en permanence l’utilisateur authentifié comme responsable ultime de la validation et de l’utilisation des contenus générés.

Les fonctionnalités IA incluent :

• Assistance conversationnelle contextuelle.
• Recherche d’information.
• Génération assistée de contenu.
• Génération assistée de communications.
• Requêtes opérationnelles sur information autorisée.
• Exploitation intelligente de l’information existante dans l’environnement SmartOSH.

Smart AI ne constitue pas un système autonome de prise de décision et ne réalise pas :

• Décisions automatisées avec effets juridiques.
• Profilage automatisé de personnes.
• Évaluations disciplinaires.
• Décisions automatisées en matière de travail.
• Diagnostics médicaux.
• Actions sans supervision humaine.

La plateforme a été conçue spécifiquement pour fonctionner selon un modèle human-in-the-loop, où toute action pertinente reste sous contrôle et validation explicite de l’utilisateur.

Architecture technique

La plateforme SmartOSH fonctionne sur une infrastructure d’entreprise européenne à haute disponibilité déployée sur des centres de données Equinix situés à Paris (France) et Dublin (Irlande), avec réplication continue des données, redondance géographique et capacités avancées de reprise après sinistre.

L’infrastructure a été conçue pour garantir :

• Haute disponibilité.
• Résilience opérationnelle.
• Continuité d’activité.
• Segmentation logique.
• Protection avancée de l’information.

L’architecture intègre :

• Redondance réseau Tier-1.
• Segmentation via VLANs et overlays L2/L3.
• Redondance BGP.
• Protection périmétrique multicouche.
• Chiffrement en transit.
• Chiffrement au repos.
• Mécanismes avancés de surveillance et d’audit.

Le backend du composant Smart AI est séparé logiquement du cœur principal de SmartOSH, mettant en œuvre un isolement fonctionnel entre le composant IA et les systèmes transactionnels principaux.

Les modèles LLM utilisés fonctionnent sur l’infrastructure Microsoft Azure OpenAI déployée exclusivement dans des régions européennes, le trafic associé au composant IA restant dans le territoire de l’Union Européenne.

La plateforme utilise SQL Server comme technologie principale de persistance des données.

L’accès à l’information depuis le composant IA ne se fait jamais directement sur les bases de données. Smart AI utilise un modèle intermédiaire via des APIs internes contrôlées par le backend, où les outils (tools) ne peuvent accéder qu’à des fonctions et données préalablement définies et autorisées.

Le modèle IA ne dispose pas de :

• Accès shell.
• Accès direct aux systèmes internes.
• Accès direct aux bases de données.
• Accès aux secrets ou identifiants.
• Capacité d’exécution arbitraire de code.

Inventaire technologique et dépendances

La solution Smart AI s’appuie sur un ensemble contrôlé de composants technologiques corporatifs intégrés dans l’architecture SmartOSH.

Composant	Technologie
Plateforme principale	SmartOSH
Composant IA	Smart AI
Infrastructure IA	Microsoft Azure OpenAI
Base de données	SQL Server
RAG documentaire	OpenAI Files + Vector Spaces
Protection périmétrique	Cloudflare WAF
SIEM	Wazuh
Surveillance	Grafana
Logging analytique	Azure Synapse
Stockage analytique	Parquet
Infrastructure principale	Equinix Paris
Infrastructure de secours	Equinix Dublin

L’architecture RAG mise en œuvre utilise des mécanismes de récupération documentaire basés sur OpenAI Files et Vector Spaces également déployés sur infrastructure Azure européenne.

Actuellement, le système RAG contient exclusivement de la documentation interne et des manuels liés à SmartOSH, sans indexer la documentation fournie par les clients finaux.

Sécurité des accès et contrôle RBAC

SmartOSH met en œuvre un modèle d’authentification et d’autorisation corporatif basé sur le contrôle d’accès par rôles (RBAC), authentification fédérée et segmentation logique multi-tenant.

La plateforme supporte :

• Authentification interne.
• Intégration SSO via Azure Active Directory.
• Gestion granulaire des permissions.
• Blocage après tentatives échouées.
• Audit des accès.
• Segmentation logique des clients.

Chaque tenant dispose d’un isolement logique indépendant, garantissant une séparation opérationnelle entre clients.

Les fonctionnalités IA intègrent des contrôles spécifiques de gouvernance et d’autorisation, incluant :

• Activation IA par utilisateur.
• Activation IA par tenant.
• Restrictions par rôle.
• Limitation des fonctionnalités.
• Limitation d’accès aux tools.
• Limitation d’accès aux fonctionnalités de génération de communications.

Les administrateurs client peuvent activer ou désactiver les fonctionnalités IA selon les besoins opérationnels et les politiques internes de sécurité.

Protection contre les menaces spécifiques à l’IA

Smart AI a été conçu selon les principes Defense in Depth et aligné avec les bonnes pratiques de sécurité applicables aux systèmes LLM modernes.

L’architecture intègre des contrôles spécifiques visant à atténuer les menaces propres à l’Intelligence Artificielle générative, incluant :

• Injection de prompt.
• Injection indirecte de prompt.
• Tentatives de jailbreak.
• Génération de contenu non sécurisé.
• Abus d’outils automatisés.
• Exfiltration d’information.
• Consommation de contenu adversarial.

La plateforme intègre :

• Azure AI Content Safety.
• Prompt Shields.
• Protection anti-abus.
• Surveillance des événements.
• Traçabilité complète.
• Protection périmétrique via Cloudflare WAF.

Smart AI ne dispose pas de navigation web libre ni de capacités d’accès autonome à Internet. Cette décision architecturale a été prise délibérément pour réduire les risques associés à :

• Exfiltration d’information.
• Malware.
• Injection indirecte de prompt.
• Contenu malveillant.
• Consommation de pages adversariales.
• Augmentation de la surface d’attaque du système IA.

Le composant IA ne peut pas :

• Naviguer librement sur Internet.
• Télécharger des fichiers externes.
• Exécuter du Javascript.
• Consommer du contenu web arbitraire.
• Interagir avec des systèmes externes non contrôlés.

L’infrastructure SmartOSH intègre en outre :

• Atténuation DDoS.
• Protection OWASP.
• Détection de bots malveillants.
• IDS.
• WAF périmétrique.
• Corrélation SIEM des événements de sécurité.

Logging, traçabilité et audit forensique

Toutes les interactions liées à Smart AI sont soumises à des mécanismes avancés de traçabilité et de logging centralisé.

La plateforme enregistre :

• Prompts complets.
• Réponses générées.
• Conversations.
• Appels de fonctions.
• Erreurs d’autorisation.
• Événements de sécurité.
• Détections Content Safety.
• Événements liés à des tentatives d’abus ou de jailbreak.

La corrélation des opérations se fait via des identifiants de conversation (ConversationID), permettant une reconstruction complète des sessions et une analyse forensique ultérieure.

Les conversations et enregistrements associés sont conservés pendant 30 jours à des fins de :

• Support.
• Investigation d’incidents.
• Audit.
• Conformité réglementaire.
• Analyse forensique.

La plateforme intègre ELK, certifiée par le CCN dans le catalogue des produits et services de sécurité TIC pour la corrélation d’événements de sécurité, la détection d’anomalies, la supervision continue et la surveillance des vulnérabilités.

Les enregistrements opérationnels et analytiques sont centralisés sur une architecture Azure Synapse et un stockage au format Parquet, permettant des capacités avancées de :

• Audit historique.
• Conservation prolongée.
• Analyse d’incidents.
• Surveillance corporative.

Pseudonymisation

Smart AI intègre des mécanismes destinés à minimiser l’exposition des données personnelles lors du traitement d’informations par les modèles LLM.

Actuellement, la plateforme met en œuvre des mécanismes de pseudonymisation basique par substitution dynamique des noms et prénoms par des initiales avant certaines interactions avec le modèle IA.

• Les champs actuellement soumis à pseudonymisation incluent nom et prénoms.
• Le système n’utilise pas actuellement de hachage, tokens réversibles ni tables de correspondance externes.
• La plateforme fonctionne selon les principes de minimisation des données, limitation de finalité, traçabilité, segmentation logique et contrôle d’accès.
• Le traitement des données personnelles associé au composant IA est intégré dans le cadre de conformité corporative RGPD et LOPDGDD de SmartOSH.

Outputs et communications

Smart AI intègre des fonctionnalités de génération assistée d’emails et communications dans l’environnement SmartOSH.

Les emails générés utilisent l’infrastructure SMTP propre à SmartOSH et sont soumis à validation des domaines autorisés.

Les fonctionnalités de génération de communications maintiennent une supervision humaine effective et requièrent confirmation de l’utilisateur avant l’envoi final.

Toute communication générée par IA est associée à l’utilisateur, la conversation, le prompt, le timestamp et le contexte opérationnel associé. Cette approche permet de maintenir une traçabilité complète et des capacités d’audit ultérieures.

Supervision humaine

Smart AI fonctionne selon un modèle de supervision humaine continue.

Le système a été conçu comme un outil de soutien opérationnel et non comme un système autonome de décision.

Les actions à impact opérationnel ou communicationnel restent sous contrôle de l’utilisateur authentifié, qui conserve la responsabilité finale de :

• Validation.
• Revue.
• Utilisation.
• Envoi des contenus générés.

La plateforme n’exécute pas d’actions autonomes sans intervention humaine et maintient des mécanismes de confirmation pour les opérations sensibles.

Sécurité de l’infrastructure et résilience

L’infrastructure de SmartOSH a été conçue selon des critères de haute disponibilité, résilience opérationnelle et continuité d’activité, fonctionnant sur des centres de données européens redondés avec réplication continue d’information entre environnements de production et de secours. L’architecture maintient une synchronisation des données toutes les 30 secondes entre centres de données géographiquement séparés, permettant de réduire significativement le risque de perte d’information et de garantir des capacités avancées de reprise après sinistre (Disaster Recovery).

Le modèle de protection de l’information combine des mécanismes de réplication continue, stockage redondé et politiques de sauvegarde multiniveau, garantissant à la fois la disponibilité opérationnelle et la capacité de récupération historique en cas d’incidents de sécurité, corruption logique ou événements critiques d’infrastructure.

La politique corporative de sauvegardes appliquée sur SmartOSH est structurée comme suit :

Type de sauvegarde	Période de conservation
Sauvegardes quotidiennes	30 jours
Copies mensuelles	6 mois
Copies annuelles	5 ans

Toute l’infrastructure de stockage fonctionne sur des environnements redondés et chiffrés via des algorithmes AES at-rest, incorporant également une réplication géographique entre centres de données européens indépendants. Cette approche permet de maintenir des niveaux élevés de disponibilité et de résilience même en cas d’incidents sévères d’infrastructure ou d’indisponibilité partielle des services.

Au niveau réseau et communications, la plateforme met en œuvre une architecture segmentée et redondante basée sur des switches à haute disponibilité, segmentation logique via VLANs et overlays L2/L3, ainsi que redondance BGP Tier-1 pour garantir une connectivité résiliente et un équilibrage efficace du trafic. La sécurité périmétrique s’appuie sur plusieurs couches de protection incluant firewalls, systèmes WAF, atténuation DDoS, détection d’intrusions et surveillance continue du trafic et des événements de sécurité.

Les centres de données Equinix utilisés par SmartOSH fonctionnent selon des standards internationaux enterprise et disposent d’une opération 24x7, contrôles d’accès physique via authentification biométrique, redondance électrique et climatique complète, ainsi que des certifications avancées liées à la sécurité de l’information, continuité d’activité, protection des infrastructures critiques et conformité réglementaire internationale.

Surveillance et métriques opérationnelles

La plateforme Smart AI intègre des capacités de surveillance opérationnelle, supervision de sécurité et traçabilité technique sur les différents composants faisant partie de l’écosystème d’Intelligence Artificielle intégré dans SmartOSH. Ces capacités permettent de maintenir un contrôle continu sur le comportement opérationnel du système, détecter les anomalies, analyser les événements de sécurité et suivre la consommation et l’utilisation des ressources IA.

La surveillance est réalisée en combinant des outils d’observabilité opérationnelle et de corrélation d’événements de sécurité, intégrés dans l’environnement corporatif de SmartOSH. Pour cela, sont utilisées des plateformes comme Grafana pour la surveillance technique et la visualisation opérationnelle, et Wazuh comme plateforme SIEM pour l’analyse des événements de sécurité, la corrélation et la supervision continue de l’infrastructure et des services associés au composant IA.

Actuellement, Smart AI maintient une supervision active sur différentes métriques et événements opérationnels pertinents :

Zone surveillée	Description
Consommation de tokens	Suivi du volume d’utilisation des modèles LLM et consommation opérationnelle associée.
Coût opérationnel IA	Contrôle de la consommation économique liée à l’usage des services Azure OpenAI.
Erreurs opérationnelles	Détection des erreurs d’exécution, échecs de traitement et exceptions techniques.
Événements de filtrage	Surveillance des activations liées à Content Safety et mécanismes de protection.
Événements d’abus	Identification des comportements anormaux ou tentatives d’usage abusif du système.
Usage des tools	Traçabilité et suivi des invocations d’outils internes et APIs autorisées.
Conversations IA	Enregistrement et corrélation des sessions via ConversationID.
Événements de sécurité	Corrélation SIEM d’activités liées aux accès, anomalies et événements pertinents.

L’architecture d’observabilité mise en place permet de disposer de capacités d’audit technique, d’investigation forensique et d’analyse historique des opérations associées au composant IA, facilitant également l’intégration de contrôles alignés avec les exigences de compliance, ENS, ISO 27001 et gouvernance corporative de l’Intelligence Artificielle.

L’organisation maintient en outre un processus continu d’évolution et d’amélioration des capacités d’observabilité, de sécurité opérationnelle et de surveillance avancée du composant Smart AI, incorporant progressivement de nouvelles métriques, automatismes de supervision et capacités de détection précoce d’anomalies et risques opérationnels.

Compliance et gouvernance

Le composant Smart AI est intégré dans le cadre corporatif de gouvernance, sécurité et conformité réglementaire de SmartOSH, faisant partie du périmètre du Système de Gestion de la Sécurité de l’Information (SGSI) certifié selon ISO/IEC 27001 et Schéma National de Sécurité (ENS) catégorie HAUTE.

La plateforme a été conçue et déployée suivant des principes de sécurité, traçabilité, supervision humaine et minimisation des risques alignés avec les exigences actuelles applicables aux systèmes d’Intelligence Artificielle dans les environnements enterprise et cadres réglementaires européens.

Le modèle de gouvernance mis en œuvre combine des contrôles techniques, organisationnels et opérationnels destinés à garantir un usage contrôlé, supervisé et proportionné des fonctionnalités IA intégrées dans SmartOSH. Cette approche permet de maintenir le composant Smart AI aligné avec les principes de :

• Sécurité de l’information.
• Confidentialité et protection des données.
• Supervision humaine effective.
• Transparence.
• Traçabilité.
• Gestion continue des risques technologiques.

Actuellement, le cadre de conformité considéré inclut, entre autres :

Cadre réglementaire ou norme	Applicabilité
Règlement Général sur la Protection des Données (RGPD)	Traitement des données personnelles.
LOPDGDD	Protection des données et droits numériques.
Règlement (UE) 2024/1689 — AI Act	Gouvernance et usage des systèmes IA.
Schéma National de Sécurité (ENS)	Sécurité de l’information.
ISO/IEC 27001	Système de Gestion de la Sécurité de l’Information.
Directive NIS2	Résilience et cybersécurité.
ISO/IEC 42001	Gouvernance des systèmes d’Intelligence Artificielle.

Smart AI est classifié sous un modèle de risque limité (limited risk) conformément à l’approche actuelle de l’AI Act, car :

• Il ne prend pas de décisions automatisées avec effets juridiques.
• Il n’exécute pas d’actions autonomes.
• Il ne réalise pas de profilage automatisé.
• Il maintient une supervision humaine continue sur les actions et contenus générés.

L’organisation maintient en outre un processus continu d’évolution et de maturation du modèle de gouvernance IA, intégrant progressivement des contrôles additionnels liés à :

• Gestion des risques IA.
• Traçabilité avancée.
• Surveillance d’usage.
• Revue périodique des contrôles.
• Supervision organisationnelle.
• Amélioration continue du composant Smart AI.

Le composant IA est soumis aux processus corporatifs de :

• Gestion des changements.
• Audit.
• Revue SGSI.
• Analyse des risques.
• Contrôle documentaire.
• Amélioration continue.

Ainsi, son intégration dans le modèle global de sécurité et conformité corporative de SmartOSH est garantie.

Note

SmartOSH est une application de PrevenControl pour la gestion avancée de la Sécurité et Santé au Travail dans les organisations.