Memòria tècnica de seguretat — Smart AI
Objecte
Section titled “Objecte”El present document descriu l’arquitectura funcional, controls de seguretat, mecanismes de protecció, traçabilitat i mesures de governança implementades sobre el component d’Intel·ligència Artificial Smart AI, integrat dins la plataforma SmartOSH de PrevenControl.
L’objectiu d’aquesta memòria tècnica és proporcionar informació detallada sobre el funcionament del sistema IA, els seus controls de seguretat i la seva integració dins l’ecosistema tecnològic i organitzatiu de SmartOSH, donant resposta a requisits de clients enterprise, auditories de ciberseguretat i marcs regulatoris relacionats amb Intel·ligència Artificial, protecció de dades i seguretat de la informació.
Smart AI forma part de l’abast corporatiu del Sistema de Gestió de Seguretat de la Informació (SGSI) de SmartOSH, certificat sota ISO/IEC 27001 i Esquema Nacional de Seguretat (ENS) categoria ALTA, incorporant a més principis i controls alineats amb marcs de govern d’Intel·ligència Artificial i integració progressiva de controls basats en ISO/IEC 42001.
La solució ha estat dissenyada sota principis de Security by Design, Privacy by Design i supervisió humana efectiva, minimitzant la superfície d’exposició del component IA i evitant models autònoms d’operació.
Finalitat i abast funcional
Section titled “Finalitat i abast funcional”Smart AI és un sistema d’assistència intel·ligent integrat dins la plataforma SmartOSH el propòsit del qual és assistir operativament usuaris autenticats en tasques relacionades amb gestió de Seguretat i Salut Laboral, explotació intel·ligent d’informació, suport documental, generació assistida de contingut i consultes contextuals sobre informació existent a l’entorn SmartOSH.
El sistema ha estat dissenyat com un component de suport operatiu i productivitat, mantenint en tot moment l’usuari autenticat com a responsable últim de validació i utilització dels continguts generats.
Les funcionalitats IA inclouen:
- Assistència conversacional contextual.
- Recuperació d’informació.
- Generació assistida de contingut.
- Generació assistida de comunicacions.
- Consultes operatives sobre informació autoritzada.
- Explotació intel·ligent d’informació existent dins l’entorn SmartOSH.
Smart AI no constitueix un sistema autònom de presa de decisions i no realitza:
- Decisions automatitzades amb efectes jurídics.
- Perfilat automatitzat de persones.
- Avaluacions disciplinàries.
- Decisions laborals automatitzades.
- Diagnòstics mèdics.
- Actuacions sense supervisió humana.
La plataforma ha estat dissenyada específicament per operar sota un model human-in-the-loop, on tota acció rellevant roman sota control i validació explícita de l’usuari.
Arquitectura tècnica
Section titled “Arquitectura tècnica”La plataforma SmartOSH opera sobre infraestructura empresarial europea d’alta disponibilitat desplegada sobre centres de dades Equinix ubicats a París (França) i Dublín (Irlanda), amb replicació contínua de dades, redundància geogràfica i capacitats avançades de disaster recovery.
La infraestructura ha estat dissenyada per garantir:
- Alta disponibilitat.
- Resiliència operativa.
- Continuïtat de negoci.
- Segmentació lògica.
- Protecció avançada de la informació.
L’arquitectura incorpora:
- Redundància de xarxa Tier-1.
- Segmentació mitjançant VLANs i overlays L2/L3.
- Redundància BGP.
- Protecció perimetral multicapa.
- Xifrat en trànsit.
- Xifrat at-rest.
- Mecanismes avançats de monitorització i auditoria.
El backend del component Smart AI es troba separat lògicament del core principal de SmartOSH, implementant aïllament funcional entre el component IA i els sistemes transaccionals principals.
Els models LLM utilitzats operen sobre infraestructura Microsoft Azure OpenAI desplegada exclusivament en regions europees, mantenint-se el trànsit associat al component IA dins l’àmbit territorial de la Unió Europea.
La plataforma utilitza SQL Server com a tecnologia principal de persistència de dades.
L’accés a informació des del component IA mai es realitza de forma directa contra bases de dades. Smart AI utilitza un model intermediat mitjançant APIs internes controlades per backend, on les eines (tools) únicament poden accedir a funcions i dades prèviament definides i autoritzades.
El model IA no disposa de:
- Accés shell.
- Accés directe a sistemes interns.
- Accés directe a bases de dades.
- Accés a secrets o credencials.
- Capacitat d’execució arbitrària de codi.
Inventari tecnològic i dependències
Section titled “Inventari tecnològic i dependències”La solució Smart AI es recolza sobre un conjunt controlat de components tecnològics corporatius integrats dins l’arquitectura SmartOSH.
| Component | Tecnologia |
|---|---|
| Plataforma principal | SmartOSH |
| Component IA | Smart AI |
| Infraestructura IA | Microsoft Azure OpenAI |
| Base de dades | SQL Server |
| RAG documental | OpenAI Files + Vector Spaces |
| Protecció perimetral | Cloudflare WAF |
| SIEM | Wazuh |
| Monitorització | Grafana |
| Logging analític | Azure Synapse |
| Emmagatzematge analític | Parquet |
| Infraestructura principal | Equinix París |
| Infraestructura de suport | Equinix Dublín |
L’arquitectura RAG implementada utilitza mecanismes de recuperació documental basats en OpenAI Files i Vector Spaces desplegats igualment sobre infraestructura Azure europea.
Actualment el sistema RAG conté exclusivament documentació interna i manuals relacionats amb SmartOSH, no indexant documentació aportada per clients finals.
Seguretat d’accessos i control RBAC
Section titled “Seguretat d’accessos i control RBAC”SmartOSH implementa un model d’autenticació i autorització corporatiu basat en control d’accés per rols (RBAC), autenticació federada i segregació lògica multi-tenant.
La plataforma suporta:
- Autenticació interna.
- Integració SSO mitjançant Azure Active Directory.
- Gestió granular de permisos.
- Bloqueig per intents fallits.
- Auditoria d’accessos.
- Segregació lògica de clients.
Cada tenant disposa d’aïllament lògic independent, garantint separació operativa entre clients.
Les funcionalitats IA incorporen controls específics de governança i autorització, incloent:
- Activació IA per usuari.
- Activació IA per tenant.
- Restriccions per rol.
- Limitació de funcionalitats.
- Limitació d’accés a tools.
- Limitació d’accés a funcionalitats de generació de comunicacions.
Els administradors del client poden activar o desactivar les funcionalitats IA segons necessitats operatives i polítiques internes de seguretat.
Protecció front a amenaces específiques d’IA
Section titled “Protecció front a amenaces específiques d’IA”Smart AI ha estat dissenyat seguint principis Defense in Depth i alineament amb bones pràctiques de seguretat aplicables a sistemes LLM moderns.
L’arquitectura incorpora controls específics orientats a mitigar amenaces pròpies d’Intel·ligència Artificial generativa, incloent:
- Prompt injection.
- Indirect prompt injection.
- Jailbreak attempts.
- Generació insegura de contingut.
- Abús d’eines automatitzades.
- Exfiltració d’informació.
- Consum de contingut adversarial.
La plataforma incorpora:
- Azure AI Content Safety.
- Prompt Shields.
- Protecció anti abús.
- Monitorització d’esdeveniments.
- Traçabilitat completa.
- Protecció perimetral mitjançant Cloudflare WAF.
Smart AI no disposa de navegació web lliure ni capacitats d’accés autònom a Internet. Aquesta decisió arquitectònica ha estat adoptada deliberadament per reduir riscos associats a:
- Exfiltració d’informació.
- Malware.
- Indirect prompt injection.
- Contingut maliciós.
- Consum de pàgines adversàries.
- Ampliació de superfície d’atac del sistema IA.
El component IA no pot:
- Navegar lliurement per Internet.
- Descarregar fitxers externs.
- Executar Javascript.
- Consumir contingut web arbitrari.
- Interactuar amb sistemes externs no controlats.
La infraestructura SmartOSH incorpora addicionalment:
- Mitigació DDoS.
- Protecció OWASP.
- Detecció de bots maliciosos.
- IDS.
- WAF perimetral.
- Correlació SIEM d’esdeveniments de seguretat.
Logging, traçabilitat i auditoria forense
Section titled “Logging, traçabilitat i auditoria forense”Totes les interaccions relacionades amb Smart AI queden subjectes a mecanismes de traçabilitat avançada i logging centralitzat.
La plataforma registra:
- Prompts complets.
- Respostes generades.
- Converses.
- Function calls.
- Errors d’autorització.
- Esdeveniments de seguretat.
- Deteccions de Content Safety.
- Esdeveniments relacionats amb intents d’abús o jailbreak.
La correlació d’operacions es realitza mitjançant identificadors de conversa (ConversationID), permetent reconstrucció completa de sessions i anàlisi forense posterior.
Les converses i registres associats romanen emmagatzemats durant 30 dies amb finalitats de:
- Suport.
- Investigació d’incidents.
- Auditoria.
- Compliment normatiu.
- Anàlisi forense.
La plataforma integra ELK, certificada pel CCN en el catàleg de productes i serveis de la seguretat de la TIC per a correlació d’esdeveniments de seguretat, detecció d’anomalies, supervisió contínua i monitorització de vulnerabilitats.
Els registres operatius i analítics es centralitzen sobre arquitectura Azure Synapse i emmagatzematge en format Parquet, permetent capacitats avançades de:
- Auditoria històrica.
- Conservació prolongada.
- Anàlisi d’incidents.
- Monitorització corporativa.
Pseudonimització
Section titled “Pseudonimització”Smart AI incorpora mecanismes destinats a minimitzar l’exposició de dades personals durant el processament d’informació per part de models LLM.
Actualment la plataforma implementa mecanismes de pseudonimització bàsica mitjançant substitució dinàmica de noms i cognoms per inicials abans de determinades interaccions amb el model IA.
- Els camps actualment subjectes a pseudonimització inclouen nom i cognoms.
- El sistema no utilitza actualment hashing, tokens reversibles, ni taules de mapping externes.
- La plataforma opera sota principis de minimització de dades, limitació de finalitat, traçabilitat, segregació lògica i control d’accés.
- El tractament de dades personals associat al component IA es troba integrat dins el marc de compliment corporatiu RGPD i LOPDGDD de SmartOSH.
Outputs i comunicacions
Section titled “Outputs i comunicacions”Smart AI incorpora funcionalitats de generació assistida de correus electrònics i comunicacions dins l’entorn SmartOSH.
Els emails generats utilitzen infraestructura SMTP pròpia de SmartOSH i es troben subjectes a validació de dominis permesos.
Les funcionalitats de generació de comunicacions mantenen supervisió humana efectiva i requereixen confirmació per part de l’usuari abans de l’enviament final.
Tota comunicació generada mitjançant IA queda associada a usuari, conversa, prompt, timestamp i context operatiu associat. Aquesta aproximació permet mantenir traçabilitat completa i capacitats d’auditoria posteriors.
Supervisió humana
Section titled “Supervisió humana”Smart AI opera sota un model de supervisió humana contínua.
El sistema ha estat dissenyat com a eina de suport operatiu i no com a sistema autònom de decisió.
Les accions amb impacte operatiu o comunicacional romanen sota control de l’usuari autenticat, qui manté responsabilitat final sobre:
- Validació.
- Revisió.
- Utilització.
- Enviament de continguts generats.
La plataforma no executa accions autònomes sense intervenció humana i manté mecanismes de confirmació sobre operacions sensibles.
Seguretat de la infraestructura i resiliència
Section titled “Seguretat de la infraestructura i resiliència”La infraestructura de SmartOSH ha estat dissenyada sota criteris d’alta disponibilitat, resiliència operativa i continuïtat de negoci, operant sobre centres de dades europeus redundats amb replicació contínua d’informació entre entorns de producció i suport. L’arquitectura manté sincronització de dades cada 30 segons entre centres de dades geogràficament separats, permetent reduir significativament el risc de pèrdua d’informació i garantir capacitats avançades de recuperació davant desastre (Disaster Recovery).
El model de protecció de la informació combina mecanismes de replicació contínua, emmagatzematge redundat i polítiques de backup multinivell, garantint tant la disponibilitat operativa com la capacitat de recuperació històrica davant incidents de seguretat, corrupció lògica o esdeveniments crítics d’infraestructura.
La política corporativa de còpies de seguretat aplicada sobre SmartOSH s’estructura de la manera següent:
| Tipus de còpia de seguretat | Període de conservació |
|---|---|
| Backups diaris | 30 dies |
| Còpies mensuals | 6 mesos |
| Còpies anuals | 5 anys |
Tota la infraestructura d’emmagatzematge opera sobre entorns redundats i xifrats mitjançant algoritmes AES at-rest, incorporant a més replicació geogràfica entre centres de dades europeus independents. Aquesta aproximació permet mantenir elevats nivells de disponibilitat i resiliència fins i tot davant incidents severs d’infraestructura o indisponibilitat parcial de serveis.
A nivell de xarxa i comunicacions, la plataforma implementa una arquitectura segmentada i redundant basada en switches d’alta disponibilitat, segmentació lògica mitjançant VLANs i overlays L2/L3, així com redundància BGP Tier-1 per garantir connectivitat resilient i balanceig eficient del trànsit. La seguretat perimetral es recolza en múltiples capes de protecció incloent tallafocs, sistemes WAF, mitigació DDoS, detecció d’intrusions i monitorització contínua del trànsit i esdeveniments de seguretat.
Els centres de dades Equinix utilitzats per SmartOSH operen sota estàndards enterprise internacionals i disposen d’operació 24x7, controls d’accés físic mitjançant autenticació biomètrica, redundància elèctrica i climàtica completa, així com certificacions avançades relacionades amb seguretat de la informació, continuïtat de negoci, protecció d’infraestructures crítiques i compliment normatiu internacional.
Monitorització i mètriques operatives
Section titled “Monitorització i mètriques operatives”La plataforma Smart AI incorpora capacitats de monitorització operativa, supervisió de seguretat i traçabilitat tècnica sobre els diferents components que formen part de l’ecosistema d’Intel·ligència Artificial integrat a SmartOSH. Aquestes capacitats permeten mantenir control continu sobre el comportament operatiu del sistema, detectar anomalies, analitzar esdeveniments de seguretat i realitzar seguiment de consum i utilització de recursos IA.
La monitorització es realitza combinant eines d’observabilitat operativa i correlació d’esdeveniments de seguretat, integrades dins l’entorn corporatiu de SmartOSH. Per a això s’utilitzen plataformes com Grafana per a monitorització tècnica i visualització operativa, i Wazuh com a plataforma SIEM per a anàlisi d’esdeveniments de seguretat, correlació i supervisió contínua de la infraestructura i serveis associats al component IA.
Actualment Smart AI manté supervisió activa sobre diferents mètriques i esdeveniments operatius rellevants:
| Àrea monitoritzada | Descripció |
|---|---|
| Consum de tokens | Seguiment del volum d’ús de models LLM i consum operacional associat. |
| Cost operacional IA | Control de consum econòmic derivat de l’ús de serveis Azure OpenAI. |
| Errors operatius | Detecció d’errors d’execució, fallades de processament i excepcions tècniques. |
| Esdeveniments de filtratge | Supervisió d’activacions relacionades amb Content Safety i mecanismes de protecció. |
| Esdeveniments d’abús | Identificació de comportaments anòmals o intents d’ús indegut del sistema. |
| Ús de tools | Traçabilitat i seguiment d’invocació d’eines internes i APIs autoritzades. |
| Converses IA | Registre i correlació de sessions mitjançant ConversationID. |
| Esdeveniments de seguretat | Correlació SIEM d’activitat relacionada amb accessos, anomalies i esdeveniments rellevants. |
L’arquitectura d’observabilitat implementada permet disposar de capacitats d’auditoria tècnica, investigació forense i anàlisi històric d’operacions associades al component IA, facilitant a més la integració de controls alineats amb requisits de compliance, ENS, ISO 27001 i govern corporatiu d’Intel·ligència Artificial.
L’organització manté addicionalment un procés continu d’evolució i millora de capacitats d’observabilitat, seguretat operacional i monitorització avançada del component Smart AI, incorporant progressivament noves mètriques, automatismes de supervisió i capacitats de detecció primerenca d’anomalies i riscos operatius.
Compliance i governance
Section titled “Compliance i governance”El component Smart AI es troba integrat dins el marc corporatiu de govern, seguretat i compliment normatiu de SmartOSH, formant part de l’abast del Sistema de Gestió de Seguretat de la Informació (SGSI) certificat sota ISO/IEC 27001 i Esquema Nacional de Seguretat (ENS) categoria ALTA.
La plataforma ha estat dissenyada i desplegada seguint principis de seguretat, traçabilitat, supervisió humana i minimització de riscos alineats amb els requisits actuals aplicables a sistemes d’Intel·ligència Artificial en entorns enterprise i marcs regulatoris europeus.
El model de governance implementat combina controls tècnics, organitzatius i operatius destinats a garantir un ús controlat, supervisat i proporcional de les funcionalitats IA integrades a SmartOSH. Aquest enfocament permet mantenir el component Smart AI alineat amb principis de:
- Seguretat de la informació.
- Privacitat i protecció de dades.
- Supervisió humana efectiva.
- Transparència.
- Traçabilitat.
- Gestió contínua de riscos tecnològics.
Actualment el marc de compliment considerat inclou, entre altres:
| Marc normatiu o estàndard | Aplicabilitat |
|---|---|
| Reglament General de Protecció de Dades (RGPD) | Tractament de dades personals. |
| LOPDGDD | Protecció de dades i drets digitals. |
| Reglament (UE) 2024/1689 — AI Act | Govern i ús de sistemes IA. |
| Esquema Nacional de Seguretat (ENS) | Seguretat de la informació. |
| ISO/IEC 27001 | Sistema de Gestió de Seguretat de la Informació. |
| Directiva NIS2 | Resiliència i ciberseguretat. |
| ISO/IEC 42001 | Govern de sistemes d’Intel·ligència Artificial. |
Smart AI es troba classificat sota un model de risc limitat (limited risk) conforme a l’enfocament actual de l’AI Act, atès que:
- No realitza decisions automatitzades amb efectes jurídics.
- No executa actuacions autònomes.
- No realitza perfilat automatitzat.
- Manté supervisió humana contínua sobre les accions i continguts generats.
L’organització manté addicionalment un procés continu d’evolució i maduració del model de governance IA, integrant progressivament controls addicionals relacionats amb:
- Gestió de riscos IA.
- Traçabilitat avançada.
- Monitorització d’ús.
- Revisió periòdica de controls.
- Supervisió organitzativa.
- Millora contínua del component Smart AI.
El component IA es troba subjecte als processos corporatius de:
- Gestió de canvis.
- Auditoria.
- Revisió SGSI.
- Anàlisi de riscos.
- Control documental.
- Millora contínua.
D’aquesta manera es garanteix la seva integració dins el model global de seguretat i compliance corporatiu de SmartOSH.