Las fallas en sistemas de inteligencia artificial ya representan el 4,42% de las vulnerabilidades de software a nivel global, con un total de 2.130 casos registrados en 2025 y una proyección que podría superar los 3.600 incidentes el próximo año, según el informe Fault Lines in the AI Ecosystem de TrendAI™.
El estudio también advierte que estas fallas crecieron un 34,6% en el último año, en un contexto de adopción acelerada de herramientas de IA que no ha estado acompañada por protocolos de seguridad suficientes.
Uno de los principales riesgos identificados es el uso de la denominada “IA en la sombra”, que corresponde a herramientas implementadas por empleados sin autorización ni supervisión de los equipos de tecnología. Estas soluciones operan sin controles básicos de seguridad, lo que facilita la fuga de datos sensibles y la manipulación externa de modelos.
De acuerdo con el informe, este fenómeno expone información corporativa al ser utilizada en plataformas externas, lo que puede derivar en accesos no autorizados o en el uso indebido de datos para el entrenamiento de sistemas maliciosos.
A esto se suman debilidades en la infraestructura tecnológica. Los analistas identificaron cientos de servidores en la nube expuestos a internet sin mecanismos adecuados de autenticación, lo que permite a terceros acceder, modificar o eliminar bases de datos de forma remota.
El informe señala que muchas de estas vulnerabilidades están asociadas a configuraciones deficientes, como el uso de credenciales por defecto o la apertura de puertos sin protección. Estas condiciones facilitan ataques como la ejecución remota de código o el “envenenamiento” de modelos, en el que se altera el comportamiento de los sistemas de inteligencia artificial.
“Estamos observando un desfase crítico entre la velocidad de integración de estas arquitecturas y la implementación de capas de seguridad perimetral. Es necesario que las organizaciones trasciendan la fase de experimentación y adopten un modelo proactivo de ciberseguridad que blinde todo el ciclo de vida del dato”, afirmó Ignacio Triana, director de tecnología de TrendAI™.
El informe concluye que la exposición de credenciales en plataformas de desarrollo y la falta de controles en entornos de prueba se mantienen como riesgos recurrentes, mientras que el monitoreo continuo y la gobernanza técnica son señalados como medidas clave para reducir la vulnerabilidad en un ecosistema tecnológico en expansión.
