Imagen generada por IAOcho de cada diez empresas no cuentan con protocolos de ciberseguridad específicos para sus proyectos de inteligencia artificial. La cifra, publicada por Cybersecurity News ES, retrata una contradicción que ya no admite demasiadas excusas: las compañías están incorporando modelos capaces de leer documentos, escribir código, clasificar clientes o tomar decisiones mientras los controles de seguridad siguen diseñados para aplicaciones convencionales.
La noticia no aporta en el material disponible el nombre del estudio, su metodología ni el universo exacto de empresas encuestadas. Conviene decirlo antes de convertir un porcentaje llamativo en una ley universal. Pero incluso con esa cautela, el dato apunta a un problema reconocible en cualquier comité de riesgos: muchos proyectos de IA se aprueban como experimentos de negocio, aunque terminen accediendo a datos personales, repositorios internos, sistemas de atención al cliente o procesos críticos.
Ahí está el verdadero riesgo. No se trata únicamente de que un modelo pueda ser atacado. Se trata de que una organización puede estar desplegando una nueva superficie de ataque sin haber decidido quién responde por ella, qué datos puede procesar, cómo se verifica su comportamiento y qué ocurre cuando falla.
Un proyecto tradicional suele tener una arquitectura relativamente estable: entradas conocidas, reglas de procesamiento, salidas previsibles y controles de acceso relativamente fáciles de delimitar. Un sistema de IA introduce variables adicionales. El modelo puede cambiar, la respuesta puede variar ante la misma petición, los datos de entrenamiento pueden contener información sensible y una integración aparentemente inocua puede concederle acceso a herramientas corporativas.
Un chatbot conectado a una base documental interna no solo “responde preguntas”. Puede convertirse en una vía para extraer información que un usuario no debería consultar, especialmente si el sistema de recuperación de documentos ignora los permisos originales. Un asistente de programación no solo “ayuda a escribir código”. Puede sugerir dependencias vulnerables, reproducir secretos pegados accidentalmente en el contexto o generar código que pase una revisión superficial y falle en producción. Un modelo que clasifica solicitudes de crédito, seguros o fraude puede producir discriminaciones difíciles de detectar si nadie conserva los datos, instrucciones y versión del modelo que generaron cada resultado.
La seguridad, por tanto, no se limita a proteger el servidor que aloja el modelo. Incluye el modelo, los datos, los prompts, los conectores, las cuentas de servicio, las herramientas invocables, los registros, los proveedores y la cadena de actualización.
El error organizativo más frecuente consiste en aprobar primero el caso de uso y preguntar después por los controles. El orden debería ser el contrario cuando el proyecto procesa información personal, tiene capacidad de ejecutar acciones o afecta a una función crítica. Que una herramienta esté disponible en un navegador no la convierte en adecuada para introducir contratos, historiales médicos, credenciales, código propietario o información de clientes.
Un protocolo de ciberseguridad para IA no es una política de dos páginas que prohíbe introducir información confidencial en herramientas públicas. Esa regla puede ser necesaria, pero se queda corta desde el primer día si la empresa está desplegando modelos propios o conectando servicios externos a sus sistemas.
Como mínimo, el protocolo debe responder a seis preguntas operativas:
La diferencia entre una política decorativa y un control eficaz se aprecia en una auditoría muy sencilla: pedir que se enseñe la lista de modelos autorizados, el último resultado de las pruebas, los permisos de sus cuentas de servicio y el registro de incidentes. Si nadie puede presentar esos cuatro elementos, probablemente la empresa no tiene un protocolo; tiene una intención.
Los sistemas de IA concentran riesgos conocidos de seguridad de aplicaciones, pero añaden otros propios de su funcionamiento. El listado de amenazas de OWASP Top 10 for LLM Applications incluye la inyección de prompts, la divulgación de información sensible, el manejo inseguro de salidas, la dependencia excesiva del modelo y la concesión de privilegios excesivos a agentes o herramientas.
La inyección directa aparece cuando un usuario intenta alterar las instrucciones del sistema. La indirecta es más incómoda: el modelo recupera una página web, un correo o un documento que contiene instrucciones maliciosas y las interpreta como órdenes. Un atacante puede insertar texto en una fuente que el sistema consulta automáticamente y conseguir que el asistente revele información, llame a una herramienta o modifique su comportamiento.
La respuesta no puede ser confiar en que el modelo “entienda” la diferencia entre una instrucción legítima y una maliciosa. Esa frontera debe reforzarse con arquitectura: separación entre datos e instrucciones, filtrado de contenido, permisos mínimos, validación de parámetros y confirmación humana antes de acciones irreversibles.
También existe el riesgo de data poisoning. Si un atacante consigue alterar datos de entrenamiento, evaluación o recuperación, puede influir en el resultado sin atacar directamente el modelo en producción. En un sistema que recomienda proveedores, detecta fraude o clasifica reclamaciones, una modificación aparentemente pequeña puede producir efectos acumulativos que no se parecen a un incidente clásico de ransomware.
Los secretos constituyen otro punto débil. El equipo de desarrollo puede enviar código a una API externa con una clave incrustada, un empleado puede pegar un expediente de cliente en un servicio no aprobado o un agente puede incluir en su contexto documentos que el usuario no tenía derecho a consultar. El incidente no necesita una sofisticada explotación: basta con que el diseño permita una exposición que nadie midió.
La ausencia de un protocolo específico no deja a la empresa en una zona neutral. Varias obligaciones existentes y nuevas alcanzan a los sistemas de IA, aunque no todas se aplican a todas las organizaciones ni a todos los usos.
El Reglamento de IA de la Unión Europea, Reglamento (UE) 2024/1689, establece obligaciones que afectan directamente al diseño y operación segura de determinados sistemas. El artículo 9 exige un sistema de gestión de riesgos para los sistemas de alto riesgo durante todo su ciclo de vida. No es una evaluación única antes de la compra: exige identificar y analizar riesgos conocidos y previsibles, adoptar medidas adecuadas y revisar el proceso de forma periódica.
El artículo 10 aborda la gobernanza de datos, incluida la relevancia de los conjuntos de entrenamiento, validación y prueba. El artículo 12 exige capacidades de registro y trazabilidad para los sistemas de alto riesgo. El artículo 14 incorpora supervisión humana, mientras que el artículo 15 exige niveles adecuados de precisión, robustez y ciberseguridad.
La fecha que cambia la conversación es el 2 de agosto de 2026, cuando comienza a aplicarse la mayor parte de las obligaciones del Reglamento. Las prohibiciones del artículo 5 y las obligaciones de alfabetización en IA del artículo 4 ya son aplicables desde el 2 de febrero de 2025; las obligaciones para proveedores de modelos de propósito general comenzaron el 2 de agosto de 2025. Los sistemas de alto riesgo integrados en productos regulados cuentan con el régimen temporal específico del artículo 113, con aplicación prevista desde el 2 de agosto de 2027.
La seguridad no es el único motivo para actuar antes de la fecha de aplicación. Un proveedor o cliente que espere hasta el último momento tendrá que reconstruir inventarios, evaluaciones, registros y responsabilidades con el sistema ya desplegado. Eso suele acabar en documentación retrospectiva, que es la manera regulatoria de decir “intentemos explicar ahora por qué hicimos aquello entonces”.
El artículo 26 también importa a los responsables del despliegue. Les exige utilizar el sistema conforme a las instrucciones de uso, asignar supervisión humana cuando corresponda, vigilar su funcionamiento y conservar los registros bajo su control durante al menos seis meses, salvo que otra norma disponga lo contrario. El artículo 27 exige una evaluación de impacto sobre derechos fundamentales en determinados usos de alto riesgo por parte de organismos públicos y entidades privadas que prestan servicios públicos, así como en otros supuestos definidos por el reglamento.
Si el sistema procesa datos personales, el RGPD sigue siendo aplicable aunque la empresa llame al proyecto “piloto”, “asistente” o “prueba de concepto”. El artículo 25 exige protección de datos desde el diseño y por defecto. El artículo 32 obliga a aplicar medidas técnicas y organizativas adecuadas al riesgo, incluyendo, cuando proceda, seudonimización, cifrado, capacidad de garantizar confidencialidad, integridad, disponibilidad y resiliencia, y procedimientos para restaurar el acceso.
El artículo 35 puede exigir una evaluación de impacto relativa a la protección de datos cuando el tratamiento entrañe un alto riesgo, algo especialmente relevante en usos de evaluación sistemática, perfiles, decisiones automatizadas o tratamiento a gran escala de categorías especiales de datos. El artículo 22 limita las decisiones basadas únicamente en tratamientos automatizados que produzcan efectos jurídicos o efectos significativamente similares, con las excepciones y garantías previstas en el propio precepto.
Hay una consecuencia práctica que muchas empresas pasan por alto: los logs y prompts también pueden contener datos personales. Guardar todas las conversaciones indefinidamente para “mejorar el modelo” no es una política de retención; es una futura explicación incómoda ante privacidad, seguridad o un afectado. La organización debe definir qué registra, con qué finalidad, durante cuánto tiempo y quién puede acceder.
Si se produce una violación de seguridad de datos personales, el artículo 33 del RGPD fija el plazo de 72 horas para notificarla a la autoridad de control cuando sea probable que entrañe un riesgo para los derechos y libertades de las personas. La empresa no puede esperar a que el proveedor de IA le entregue una narración perfecta del incidente. Debe tener capacidad propia para determinar qué datos entraron, qué salieron, quién pudo acceder y qué medidas se adoptaron.
La Directiva NIS2, en su artículo 21, exige a las entidades esenciales e importantes medidas técnicas, operativas y organizativas proporcionadas para gestionar los riesgos de ciberseguridad. El precepto menciona, entre otros elementos, análisis de riesgos, gestión de incidentes, continuidad, seguridad de la cadena de suministro, seguridad en la adquisición y desarrollo de sistemas, criptografía, control de acceso y autenticación multifactor.
Para una empresa incluida en el ámbito de NIS2, un proyecto de IA conectado a operaciones relevantes no puede quedar fuera del análisis por estar etiquetado como innovación. La directiva se ocupa del riesgo de la entidad y de sus redes y sistemas de información, no de la marca que el departamento comercial haya puesto al piloto. El artículo 23 regula la notificación de incidentes significativos, con una alerta temprana en 24 horas y una notificación de incidente en 72 horas, seguida de un informe final en el plazo establecido por la directiva.
En el sector financiero, DORA aplica desde el 17 de enero de 2025. Sus artículos 5 a 16 establecen el marco de gestión del riesgo de las tecnologías de la información y la comunicación, incluidos gobierno, control interno, identificación de riesgos, prevención, detección, respuesta, recuperación y aprendizaje. El artículo 28 regula la gestión del riesgo de terceros proveedores de servicios TIC; el artículo 30 fija elementos contractuales esenciales, como descripciones claras de servicios, localización del tratamiento, asistencia en incidentes, derechos de auditoría y condiciones de terminación.
Un banco que conecte un modelo externo a información de clientes no solo debe preguntar si el modelo es “seguro”. Tiene que saber dónde se procesan los datos, qué subcontratistas intervienen, cómo se notifica un incidente, si los registros pueden obtenerse y cómo se termina el servicio sin dejar el proceso operativo atrapado en el proveedor. La nube no elimina la responsabilidad; solo cambia la lista de preguntas.
En muchas compañías, la IA entra por tres puertas distintas. El área de negocio compra una herramienta SaaS; el equipo de datos desarrolla un modelo; y los empleados utilizan servicios públicos por su cuenta. Cada puerta genera un riesgo diferente, pero el inventario corporativo suele registrar solo la primera.
La solución no es prohibir toda IA. Las prohibiciones generales suelen producir shadow AI: el uso no declarado de herramientas que la organización no puede supervisar. La respuesta más eficaz consiste en crear una clasificación de usos y exigir controles proporcionales.
Un asistente que resume documentos públicos no debería soportar el mismo proceso que un sistema que recomienda decisiones sobre clientes. Pero ambos necesitan propietario, proveedor identificado, reglas de datos, autenticación, registro y un procedimiento para retirar el servicio. A partir de ahí, el nivel de exigencia debe aumentar cuando el sistema accede a información sensible, ejecuta acciones, influye en derechos de personas o sostiene una función crítica.
El comité de IA, cuando exista, no debe convertirse en una reunión mensual donde se presentan diapositivas sobre innovación. Su utilidad se mide por las decisiones que puede bloquear. Debe tener capacidad para exigir una evaluación de impacto, limitar un caso de uso, imponer revisión humana, rechazar un proveedor o suspender un modelo cuyo comportamiento no pueda explicarse o controlarse suficientemente.
La responsabilidad tampoco puede quedar diluida entre CISO, DPO, departamento jurídico, compras y negocio. El responsable de seguridad debe controlar la arquitectura y las pruebas; privacidad, la base jurídica, minimización y derechos; compras, las cláusulas y subcontratistas; el negocio, la finalidad y tolerancia al riesgo; y la dirección, la aceptación formal del riesgo residual. Si todos “participan” pero nadie decide, el control es nominal.
Un protocolo creíble se demuestra en la arquitectura. Hay varios controles que deberían ser verificables, no simplemente descritos en una política.
Identidad y privilegios. Cada modelo, agente y conector debe utilizar una identidad diferenciada. Las cuentas de servicio necesitan permisos mínimos, rotación de secretos, autenticación fuerte y límites de red. Un agente que solo debe consultar una base documental no necesita permisos para enviar correos ni modificar registros. Las acciones de alto impacto deben exigir aprobación humana y una segunda validación independiente.
Separación de datos. Los documentos recuperados deben respetar las autorizaciones del sistema de origen. No sirve de nada que el portal documental tenga control de acceso si el índice vectorial permite al modelo devolver fragmentos a cualquier usuario. La empresa debe probar expresamente escenarios de acceso cruzado entre departamentos, clientes y niveles de autorización.
Pruebas adversariales. Antes del despliegue hay que probar instrucciones contradictorias, prompts maliciosos en documentos, extracción de contexto, solicitudes de información confidencial, entradas manipuladas, respuestas peligrosas y llamadas no autorizadas a herramientas. Las pruebas deben repetirse después de cambios de modelo, prompts, conectores o datos, porque el comportamiento no es necesariamente estable.
Validación de salidas. El texto generado no debe pasar directamente a sistemas críticos. Las salidas que alimenten consultas, código, órdenes o decisiones deben validarse mediante reglas independientes. El modelo puede proponer; otro componente debe comprobar sintaxis, permisos, rangos y condiciones de negocio.
Registro y detección. Hay que conservar, con las garantías de privacidad adecuadas, información suficiente para reconstruir una operación: versión del modelo, usuario, origen de los datos, prompt relevante, herramientas invocadas, salida, decisión humana y cambios posteriores. Sin esa trazabilidad, investigar una fuga o explicar una decisión se convierte en arqueología digital.
Resiliencia. El servicio debe tener un modo degradado. Si el proveedor deja de responder, cambia su modelo o bloquea una funcionalidad, la empresa debe poder continuar la operación crítica o detenerla de forma segura. El plan de continuidad no puede reducirse a “abrir otra cuenta” en un proveedor distinto.
La mayoría de las empresas no entrenará un modelo fundacional desde cero. Utilizará APIs, modelos de código abierto, plataformas de nube, bases vectoriales, herramientas de evaluación y componentes desarrollados por terceros. Cada dependencia puede introducir una vulnerabilidad, una modificación de comportamiento o una transferencia de datos no prevista.
La diligencia de proveedores debe incluir preguntas técnicas concretas: cómo se aíslan los datos de clientes, si se utilizan para entrenar modelos generales, qué subencargados intervienen, cómo se gestionan las claves, qué evidencias de pruebas de seguridad están disponibles, qué plazo de notificación de incidentes se compromete y qué ocurre con los datos al terminar el contrato.
En el software tradicional, el inventario de componentes y la gestión de vulnerabilidades ya son prácticas básicas. En IA hay que ampliarlas para incluir versión del modelo, pesos, conjuntos de datos relevantes, prompts del sistema, plugins, conectores, políticas de filtrado y dependencias de inferencia. Si el proveedor actualiza el modelo sin una notificación útil, la empresa puede estar operando un sistema distinto al que evaluó.
La revisión contractual también debe cubrir la auditabilidad. Una cláusula que permita al proveedor cambiar el servicio unilateralmente, limitar los registros o impedir pruebas de seguridad deja a la empresa sin capacidad real para cumplir con sus propias obligaciones. En entidades financieras sujetas a DORA, esa carencia puede entrar en conflicto con las exigencias sobre derechos de acceso, auditoría y salida previstas para servicios TIC.
Las empresas suelen conservar políticas, pero pierden las evidencias que demostrarían su aplicación. En un proyecto de IA, un auditor, un regulador o un cliente puede pedir algo más concreto: la evaluación de riesgos aprobada, la justificación de la base jurídica, el registro de cambios, los resultados de pruebas adversariales, la lista de usuarios autorizados, los incidentes detectados y la decisión sobre el riesgo residual.
La evidencia debe generarse durante la operación, no reconstruirse cuando llega la auditoría. Conviene enlazar cada caso de uso con un propietario, una categoría de riesgo, una evaluación de privacidad, un proveedor, una versión de modelo y un calendario de revisión. También debe existir una regla de retirada: un modelo que supera el umbral de errores, pierde trazabilidad o recibe una actualización material no debería permanecer activo por inercia.
Los indicadores deben medir controles y resultados, no solo actividad. El número de empleados formados dice poco si nadie sabe cuántas herramientas no autorizadas se utilizan. Es más útil seguir el porcentaje de sistemas inventariados, el tiempo medio para revocar un conector, el número de vulnerabilidades abiertas, la cobertura de pruebas adversariales, las excepciones aprobadas y el tiempo necesario para reconstruir una decisión.
La formación también debe ser específica. El artículo 4 del Reglamento de IA exige alfabetización en IA para proveedores y responsables del despliegue desde febrero de 2025. Un curso genérico sobre “uso responsable” no prepara a un desarrollador para reconocer una inyección indirecta ni a un abogado para identificar que los prompts contienen datos personales. La formación debe variar según el rol: usuarios, desarrolladores, administradores, responsables de negocio, seguridad y privacidad necesitan escenarios diferentes.
La primera decisión no es comprar otra herramienta de gobierno de IA. Es averiguar qué está ocurriendo. Una campaña breve de descubrimiento puede revisar gastos con proveedores, extensiones de navegador, tráfico hacia APIs, repositorios de código y proyectos registrados en las áreas de datos e innovación. El objetivo es construir una fotografía real, incluidos los usos que nadie ha presentado al comité.
Después hay que separar los casos de uso por consecuencias. Los que manejan información pública y no ejecutan acciones requieren controles básicos. Los que procesan datos personales, secretos o información regulada necesitan revisión de privacidad y seguridad. Los que influyen en decisiones sobre personas, acceden a sistemas críticos o activan acciones externas deben pasar por una evaluación formal y pruebas antes de producción.
En paralelo, la empresa debe fijar una línea roja técnica: ningún modelo podrá acceder a datos o ejecutar acciones que su usuario no podría realizar directamente; ningún resultado generado se incorporará automáticamente a un proceso crítico sin validación; y ningún proveedor será aprobado sin conocer su tratamiento de datos, subcontratistas, registros, respuesta a incidentes y mecanismo de salida.
La dirección debería pedir un informe que muestre excepciones y riesgos aceptados, no una presentación sobre el número de pilotos. La pregunta relevante es incómoda pero sencilla: si mañana una conversación con el modelo aparece en internet, ¿podemos saber qué información contenía, quién la introdujo, qué proveedor la recibió, qué otras personas pudieron acceder y qué obligación de notificación se activa?
Si la respuesta es no, el proyecto no está listo, por muy convincente que sea la demostración comercial.
El dato de ocho de cada diez empresas sin protocolos específicos debe leerse como una señal de madurez insuficiente, no como una licencia para publicar otra política genérica. La adopción de IA ha avanzado más deprisa que los inventarios, los controles de acceso, las pruebas y los contratos. Eso no convierte la tecnología en inviable. Sí convierte en irresponsable desplegarla como si fuera una aplicación sin capacidad de aprender, improvisar o interactuar con otras herramientas.
Este año, con la aplicación de buena parte del Reglamento de IA y con DORA ya operativo para el sector financiero, la distancia entre “estamos probando” y “somos responsables del sistema” se ha reducido prácticamente a cero. Las empresas que actúen bien no serán las que prometan eliminar todo riesgo. Serán las que puedan demostrar qué riesgo aceptaron, qué controles aplicaron, cómo detectan una desviación y quién tiene autoridad para apagar el sistema.
La inteligencia artificial puede escribir el protocolo. La responsabilidad de comprobarlo, probarlo y hacerlo cumplir sigue siendo humana.
Nota editorial
Resumen semanal gratis
Suscríbete al resumen semanal de regulación, vulnerabilidades explotadas y acciones para tu equipo.
¿Quieres un plan a medida? Modela tu organización con Agentic Digital Twin.
Aporta contexto, plantea una duda o responde a la conversación. Los comentarios son públicos y moderables.
Cargando comentarios…