Se ha debatido mucho sobre la seguridad de los sistemas informáticos de empresas sobre el peligro de confrontación armada, pero, ¿qué hay de realidad en ello?
Se ha debatido mucho sobre la seguridad de los sistemas informáticos de empresas sobre el peligro de confrontación armada, pero, ¿qué hay de realidad en ello?
En primer lugar, hay que comentar que tratamos de un nuevo tipo de IA la llamada IA agente o agentica que es capaz de actuar de forma autónoma para completar tareas. Esto significa que los agentes de IA pueden tomar decisiones y ejecutar acciones por sí mismos, e incluso aprender de su propia experiencia para mejorar con el tiempo.
Está preocupación es real sobre dos ámbitos distintos como son los riesgos reales de la IA generativa para la ciberseguridad y el riesgo, mucho más específico y reciente, de que una alucinación de IA desencadene una crisis geopolítica. Aunque ambos riesgos están fundamentados en la magnitud y la naturaleza de alarmismo el escenario teórico varía considerablemente entre uno y otro como veremos.
En el ámbito empresarial, la IA agentica que se centra en obtener un objetivo, ha pasado de ser una promesa a una herramienta ofensiva y defensiva con repercusiones muy concretas. Sin embargo, el discurso público a menudo mezcla hallazgos técnicos verificables con escenarios apocalípticos que aún son teóricos en gran medida.
La IA permite a los atacantes automatizar fases del ciberataque que antes requerían mucho tiempo humano, como son el reconocimiento de infraestructuras, la explotación de vulnerabilidades y la orquestación de ataques en múltiples etapas.
Sin embargo, en 2026 se ha confirmado la existencia del primer exploit de día cero, es decir una vulnerabilidad de día cero, que es un fallo de seguridad de software descubierto recientemente para el que aún no existe un parche porque los desarrolladores de software desconocían su existencia.
Los desarrolladores descubren una vulnerabilidad de día cero únicamente después de que suceda el ataque, de modo que tienen cero días de advertencia para crear un parche antes del ataque, está vulnerabilidad desconocida desarrollada con ayuda de inteligencia artificial marca un hito en la capacidad ofensiva de estas herramientas.
En estos casos, el riesgo más inmediato para las empresas es la fuga de información. Las violaciones de políticas de datos asociadas al uso de aplicaciones de IA generativa se duplicaron en el último año a medida que los empleados introducen información sensible en herramientas no aprobadas.
Las organizaciones que ya se enfrentaban a las complejidades de la seguridad de los datos en la nube además, deben hacer frente a las campañas persistentes de phishing y el programa maligno difundido a través de canales de confianza por la introducción del uso generalizado de la IA en particular la llamada «IA en la sombra» (el uso no autorizado de una herramienta de IA) y la emergente IA agentica lo que añade nuevos y complejos riesgos de la exposición de datos del entorno empresarial moderno.
El riesgo más inmediato y específico de la IA generativa o agentica es el aumento sustancial de la exposición de datos ya que la tasa de incumplimientos de las políticas de datos asociados al uso de aplicaciones de IA generativa se duplicó el año pasado. Además, la IA generativa produce correos de phishing multilingües y convincentes, así como deepfakes de voz e imagen utilizados para suplantar personalidades y autoridades, como se ha observado recientemente en España, y para cometer fraudes.
El escenario apocalíptico inmediato que a veces se publicita no es real porque, aunque los ataques son más rápidos y eficaces, los escenarios de un colapso total y autónomo de la ciberseguridad global por parte de la IA siguen siendo, por ahora, en gran medida teóricos, la IA no está inventando las ciberamenazas pero si las está potenciando al máximo.
Los atacantes aún se enfrentan a capas de seguridad defensivas que limitan la efectividad de la IA en las fases finales de un ataque. Un análisis de Fortinet señala que, aunque los delincuentes incorporan la IA, los escenarios más sensacionalistas siguen siendo en gran medida teóricos. Los ataques impulsados por IA no son invencibles y los defensores se están adaptando con la misma rapidez.
Un riesgo novedoso y real es el de las brechas fantasma. Consiste en que una IA, al ser consultada, «alucina» creando un incidente de seguridad convincente con detalles técnicos falsos y esto es lo que desencadena una respuesta de crisis a gran escala en la empresa sin que haya habido una brecha real. Esto no es un ataque, sino un fallo operativo con un alto coste reputacional y de recursos.
El incidente del buque chino es un hecho constatable, un suceso documentado por múltiples medios internacionales como la CNN, Franceinfo, RPP, TechSpot que estuvo a punto de tener consecuencias graves.
El informe del ejército estadounidense, generado y estructurado por inteligencia artificial estuvo a punto de provocar una intervención militar contra un buque chino. Según fuentes de la CNN, se trató de un error.
Un analista de inteligencia militar estadounidense utilizó un chatbot de IA para evaluar información sobre un buque chino en Oriente Medio. La IA “alucinó» identificando erróneamente que la carga del barco contenía componentes para un programa de armas nucleares.
Basándose en ese informe erróneo, el ejército estadounidense se preparó para una operación de interceptación y abordaje. Según las fuentes citadas, esto llevo a que militares armados se alistaran para subir a un barco y varios aviones de guerra ya estaban en el aire. La operación se canceló en el último momento, cuando los oficiales revisaron el informe con más detalle y descubrieron que la conclusión sobre la carga nuclear era «completamente falsa» y que había sido generada con ayuda de IA. Una de las fuentes calificó el informe de «completamente falso» y afirmó que una intervención contra un buque chino podría haber provocado una escalada militar entre dos potencias nucleares.
La IA generativa sí está siendo utilizada para ciberataques más rápidos y sofisticados, y sí representa un riesgo tangible de fuga de datos y fraude para las empresas. El incidente del buque chino ocurrió realmente y demuestra que una alucinación de IA, integrada en un flujo de trabajo de inteligencia militar, sin la debida verificación humana, puede llevar a la preparación de una acción armada con un riesgo altísimo de escalada.
Las noticias que presentan a la IA generativa como posible de originar una apocalipsis presentando a la IA como una fuerza autónoma e imparable que colapsará la ciberseguridad mundial es, por ahora, más especulación que realidad posible.
Esta ficción no está en la existencia del peligro, sino en la magnitud y la inmediatez con la que a veces se presenta. El caso del buque chino, sin embargo, nos advierte de que la línea entre el escenario teórico y la crisis real puede ser peligrosamente fina cuando se confía en una IA sin supervisión crítica.
Aunque los peligros son reales la clave para evitarlos está en la supervisión humana y la verificación de la información. La IA es una herramienta poderosa que amplifica las capacidades tanto para bien como para mal, pero la responsabilidad final de las decisiones, especialmente las que tienen consecuencias críticas, sigue recayendo, por ahora, en las personas.
Para las empresas el objetivo debe ser equilibrar la fiabilidad con la eficiencia y el coste. El fallo de una IA puede traducirse en pérdidas financieras, legales o reputacionales. Las tácticas se centran en fundamentar las respuestas y establecer controles automatizados.
La técnica más extendida es la Generación Aumentada por Recuperación (RAG), que obliga al modelo a basar sus respuestas en una base de conocimiento documental y verificada en lugar de su memoria de entrenamiento. Sin embargo, el RAG por sí solo no es suficiente y funciona mejor cuando se combina con forzar al modelo a citar las fuentes exactas de cada afirmación.
Hay que asegurar que los documentos recuperados sean limpios, relevantes y estén actualizados y añadir un paso adicional donde un sistema, u otro modelo, comprueba que la respuesta generada es fiel a las fuentes citadas.
Se recomienda una Arquitecturas de Múltiples Capas, es decir una Defensa en Profundidad. De tal manera que se propone tratar la alucinación como un «modo de fallo contenido» y no como algo que se pueda eliminar por completo. Marcos como HALO (Hallucination-Aware Layered Oversight) ya que la detección de alucinaciones es fundamental para garantizar la fiabilidad de los modelos de lenguaje a gran escala (LLM) en la generación basada en el contexto.
Reconocer estas «alucinaciones» es fundamental para que los usuarios puedan utilizar la IA de forma responsable y eficaz. Al verificar la información hay que mostrarse escépticos ante las respuestas excesivamente seguras y utilizar herramientas de verificación de datos, los usuarios pueden eliminar los riesgos derivados de las «alucinaciones» de la IA al tiempo que disfrutan de las ventajas que ofrece esta tecnología.
Además, se deben aplicar barreras técnicas y de diseño de la interfaz para prevenir errores. Por ejemplo, las barreras de seguridad (Guardrails) como son las políticas de comportamiento predefinidas que restringen el dominio de la IA a áreas bien definidas, filtran salidas de alto riesgo o bloquean temas fuera de alcance.
En lugar de una automatización total, se introduce una fricción deliberada en la interfaz para forzar la reflexión del usuario. Por ejemplo, exigir que se revisen supuestos clave o que se consideren contraargumentos antes de aceptar una respuesta de la IA.
Además, la verificación Humana Estratégica (Human-in-the-Loop – HITL), es decir la supervisión humana, no se aplica a todo por igual, sino que se enruta según el riesgo. Las decisiones de alto impacto como son las financieras, legales o referentes a los clientes requieren una revisión y aprobación humanas explícitas antes de ejecutarse. Se trata de un proceso de «humano en el bucle», juicio humano, para lo crítico y de supervisión por muestreo para lo demás.
En el ámbito militar el margen de error debe ser prácticamente nulo. Una alucinación no es solo un dato erróneo; puede llevar a una escalada innecesaria o a un conflicto armado, como demostró el incidente del buque chino. Por ello, las medidas son extremadamente conservadoras y priorizan la seguridad y la fiabilidad absoluta sobre la agilidad.
Como ejemplo de Sistemas Cerrados y de Doctrina Oficialcon Grounding o anclajese refiere a la capacidad de un sistema de IA de generar respuestas que estén respaldadas por información externa específica proporcionada en el contexto de la consulta, en lugar de depender exclusivamente del conocimiento interno del modelo (Grounding Extremo). Un ejemplo claro es MenTE, el asistente táctico del Ejército de Tierra español. Su diseño es la antítesis de un chatbot generalista, opera exclusivamente sobre el «Prontuario de Doctrina» oficial y no tiene acceso a internet ni a fuentes externas.
Cada respuesta incluye referencias precisas al documento y página exacta, permitiendo al mando verificar la información al instante. Por otra parte, si la consulta supera el alcance de su base doctrinal, el sistema indica que no dispone de la información, evitando inventar respuestas.
En otro sentido, se desarrollan modelos de lenguaje pequeños (sLLM) específicamente entrenados para el dominio militar. Un estudio de caso en un sistema de análisis de campo de batalla basado en RAG utilizó una técnica de Optimización de Preferencias Directas (DPO), que tiene como objetivo ajustar directamente los modelos de acuerdo con las preferencias humanas, para alinear al modelo con el concepto militar de «seguridad», definido explícitamente como la minimización de alucinaciones. Esto logró mejoras de hasta un 78% en evaluaciones de seguridad relacionadas con alucinaciones.
Pero en el ámbito militar, la verificación no se limita al resultado final, sino que se extiende al proceso de razonamiento de la IA. Se auditan los pasos lógicos para detectar fallos antes de que se materialicen en una conclusión errónea. A esto se suma el Principio 90/10 es decir la IA puede gestionar el 90% del procesamiento de información, pero el 10% final de juicio de valor y responsabilidad recae siempre en un analista humano cualificado.
Se establecen protocolos para que los humanos puedan corregir a la IA. El «Incidente NEXTGEN» ilustra un fallo en el que un sistema militar fabricó estadísticas y necesitó siete ciclos de corrección para enmendar el error que revelo una peligrosa «validación automática», el sistema tendía a validar las suposiciones del usuario. La lección es la necesidad de una autoridad humana de corrección robusta que obligue al sistema a rendir cuentas ante la evidencia y no ante la confianza del usuario.
Se está trabajando en la implementación de estándares como C2PA (Coalition for Content Provenance and Authenticity) que ofrece un estándar técnico abierto para editores, creadores y consumidores con el fin de determinar el origen y las modificaciones del contenido digital y marcas de agua digitales para crear una cadena de custodia de la información, asegurando que los datos que consume la IA y las salidas que genera tienen un origen verificable.
En resumen, mientras las empresas construyen capas de verificación para gestionar el riesgo de las alucinaciones, los entornos militares diseñan sistemas para prevenirlas estructuralmente, asumiendo que el modelo es inherentemente falible y que la responsabilidad final es, en última instancia, humana.
Incidentes y tendencias en siete países
| País | Incidentes y exposición | Otros incidentes y datos | Contexto y tendencias |
|---|---|---|---|
| Francia | Ataque a un banco de sangre. | Ataques masivos a los sistemas de refrigeración de cientos de supermercados en octubre de 2025. El método se replicó en otros países. | Segundo país más ciberatacado de Europa en 2025 (13 % de los ataques), por detrás del Reino Unido. El ransomware representó el 16 % de los incidentes. |
| Italia | Ataques a una veintena de supermercados en Sicilia, así como en Toscana y Emilia-Romaña. Se citan sistemas de seguridad obsoletos e interfaces expuestas. | Ataque de ransomware al Policlinico Triestino S.p.A. en septiembre de 2026. | Check Point sitúa a Italia entre los países más afectados por la incorporación de IA a los ciberataques. |
| Rumanía | Se investigaron aumentos anómalos de temperatura en seis supermercados como un posible ciberataque. | En 2024, un ciberataque al proveedor RSC (plataforma Hippocrates) afectó a más de 100 hospitales. El ransomware BackMyData infectó directamente a 26. | Se notificaron ataques a sistemas de refrigeración de alimentos. |
| Suecia | Ataques a los sistemas de refrigeración de ICA y Coop. En algunos casos, los equipos alcanzaron los 50 °C. | Una planta de calefacción quedó fuera de servicio. | Se notificaron ataques a sistemas de refrigeración de alimentos. |
| Alemania | Se notificaron ataques a sistemas de refrigeración de alimentos. | Entre los países más afectados por ataques de denegación de servicio distribuida (DDoS) en la región EMEA. | Entre los países más afectados por la incorporación de IA a los ciberataques. |
| Irlanda | Un ataque afectó a 13 supermercados SuperValu y a un modelo específico de equipos de refrigeración. | El ransomware Conti paralizó los sistemas informáticos nacionales del servicio de salud (Health Service Executive, HSE). | Se notificaron ataques a sistemas de refrigeración de alimentos. |
| España | Cuarto país más atacado del mundo y segundo en ransomware (5 % de las detecciones globales). Los sectores más afectados fueron el tecnológico, los servicios empresariales y la manufactura. | — | El phishing encabeza las detecciones (en torno al 20 %) y cada vez se automatiza más con herramientas de IA. |
José Luis Rodríguez Agulló, médico formado en EE. UU. en New Jersey College of Medicine y en Canadá en el Hospital General of Montreal. McGill University, exjefe de Servicio en Hospital de Fuenlabrada y autor de múltiples trabajos científicos en Medicina
Pide información o cuéntanos lo que te parezca interesante.
Suscríbete y accede a todos los análisis y contenidos exclusivos de Inteligencia Geopolítica.
