Un estudio global de TrendAI reveló que el 67% de los líderes empresariales aprueba el uso de inteligencia artificial pese a preocupaciones de seguridad, incluso cuando estas son consideradas “extremas”. La investigación advierte que la presión competitiva está impulsando la adopción de IA en sistemas críticos sin los controles necesarios.
El informe, basado en una encuesta a 3,700 tomadores de decisiones de negocio y TI, indica que uno de cada siete encuestados reconoce que las preocupaciones de seguridad fueron anuladas para mantener el ritmo frente a la competencia y la demanda interna.
Según Rachel Jin, el problema no radica en la falta de conciencia sobre los riesgos, sino en la incapacidad de gestionarlos en entornos de presión. “Las organizaciones no carecen de conciencia del riesgo, carecen de las condiciones para gestionarlo. Cuando la implementación es impulsada por la presión competitiva en lugar de la madurez de la gobernanza, se crea una situación en la que la IA se integra en sistemas críticos sin los controles necesarios para gestionarla de forma segura”, afirmó.
Brecha entre adopción y control de la IA
El estudio señala que la adopción de la IA avanza más rápido que las capacidades de control. El 57% de las organizaciones afirma que la implementación de estas tecnologías supera su capacidad para gestionar los riesgos, mientras que el 64% reconoce tener solo una confianza moderada en su comprensión de los marcos legales asociados.
En términos de gobernanza, solo el 38% de las organizaciones cuenta con políticas integrales de IA, mientras que el 41% identifica la falta de claridad regulatoria como una barrera. Esta situación evidencia que muchas compañías están operacionalizando la IA antes de establecer reglas claras sobre su uso.
Además, el informe advierte sobre el uso creciente de herramientas de “shadow AI”, derivado de equipos de seguridad que reaccionan a decisiones de implementación tomadas desde niveles superiores sin coordinación previa.
Riesgos crecientes y uso de IA en ciberataques
El análisis también señala que los atacantes están utilizando IA para automatizar procesos como el reconocimiento, acelerar campañas de phishing y ampliar la escala de los ataques, reduciendo las barreras de entrada al cibercrimen.
En cuanto a los riesgos percibidos, el 44% de las organizaciones identifica el acceso a datos sensibles por parte de agentes de IA como su principal preocupación. Un 36% advierte sobre el impacto de comandos maliciosos, mientras que el 33% señala el aumento de la superficie de ataque y el posible abuso del estatus de confianza de estos sistemas.
Asimismo, el 31% reconoce no contar con mecanismos adecuados de observabilidad o auditoría, lo que dificulta el control de estos sistemas una vez desplegados.
Incertidumbre frente a la IA autónoma
El estudio muestra que la confianza en la IA agéntica aún es limitada. Solo el 48% considera que estos sistemas mejorarán la ciberdefensa a corto plazo, en medio de preocupaciones relacionadas con el acceso a datos, el mal uso y la falta de supervisión.
En este contexto, cerca del 40% de las organizaciones respalda la implementación de un “botón de pánico” (kill switch) para desactivar sistemas de IA en caso de fallas o uso indebido, mientras que casi la mitad aún no tiene una postura definida.
De acuerdo con Jin, la expansión de la IA autónoma está generando una nueva categoría de riesgo. “Sin visibilidad y control, las organizaciones están desplegando sistemas que no comprenden ni gobiernan completamente, y ese riesgo solo va a aumentar a menos que se tomen medidas”, concluyó.
