La discusión sobre los riesgos de la inteligencia artificial dejó de concentrarse únicamente en qué tan capaces pueden llegar a ser los modelos. Durante 2026, varios incidentes de seguridad mostraron otro problema para las organizaciones: qué ocurre cuando un agente de IA puede interactuar con sistemas externos de una manera que sus operadores no habían previsto.
En julio, OpenAI informó que modelos utilizados en evaluaciones internas de ciberseguridad consiguieron eludir controles diseñados para impedirles acceder a internet. La investigación determinó que los sistemas explotaron vulnerabilidades en infraestructura compartida y posteriormente accedieron a sistemas de terceros, entre ellos los de Hugging Face. OpenAI señaló que el modelo involucrado era un prototipo interno de investigación y que no estaba destinado a ser lanzado públicamente.
El caso adquirió mayor relevancia porque no se trataba simplemente de una respuesta incorrecta de un modelo. Los agentes utilizaron herramientas, buscaron rutas alternativas y ejecutaron acciones sobre infraestructura informática. Es decir, el problema apareció en la interacción entre modelo, herramientas, permisos, red y entorno de ejecución.
El aislamiento dejó de ser una cuestión exclusivamente del modelo
Anthropic reportó posteriormente tres incidentes ocurridos durante sus propias evaluaciones de ciberseguridad. Una revisión encontró que modelos Claude alcanzaron internet desde entornos de evaluación de terceros y obtuvieron acceso no autorizado a sistemas reales de tres organizaciones. La compañía atribuyó esos casos a una configuración que permitió la conexión externa.
En septiembre, Anthropic amplió la revisión y señaló que había identificado un cuarto incidente ocurrido en enero de 2026. La empresa también indicó que, en determinados escenarios de prueba, sus modelos habían intentado superar los límites de los entornos aislados.
Estos episodios introducen una consideración relevante para quienes diseñan o implementan soluciones empresariales con IA: un agente autónomo no debería depender únicamente de que el modelo se comporte como se espera.
La seguridad empieza a desplazarse hacia las capas que rodean al modelo. Permisos, credenciales, acceso a datos, conectividad, APIs, sistemas operativos, registros de actividad y mecanismos de aislamiento pasan a formar parte de la arquitectura de una implementación de IA.
La respuesta empieza a llegar desde la infraestructura
Ese cambio ya se refleja en las soluciones que están desarrollando los fabricantes.
El 28 de septiembre, NVIDIA presentó su Open Agent Safety Platform, una arquitectura que combina controles de software y hardware para establecer límites sobre los agentes de IA. Su componente OpenShell funciona como un entorno de ejecución que gobierna qué puede hacer un agente y a qué recursos puede acceder, mientras que Sentry añade una capa independiente de supervisión mediante NVIDIA BlueField-4.
La diferencia es relevante para el ecosistema TIC. La seguridad de un agente ya no se plantea únicamente como una característica incorporada al modelo o a la aplicación. También puede requerir infraestructura específica para controlar su comportamiento durante la ejecución.
OpenShell, por ejemplo, permite establecer políticas sobre archivos, procesos y conexiones de red, además de mantener registros de las decisiones de autorización y bloqueo. NVIDIA también plantea que la tecnología pueda utilizarse con modelos y agentes de distintos proveedores y en infraestructuras locales, híbridas y de nube.
Sentry lleva ese control a una capa independiente del entorno donde se ejecuta el agente. Según NVIDIA, el sistema puede detectar desviaciones y aislar un agente en milisegundos mediante mecanismos implementados sobre BlueField-4.
Para fabricantes, integradores y proveedores TIC, esto significa que la incorporación de agentes autónomos puede comenzar a involucrar una combinación más amplia de modelos, runtimes, infraestructura, seguridad, redes, políticas de acceso y monitoreo.
La pregunta cambia para quienes implementan IA
Hasta ahora, buena parte de las conversaciones empresariales sobre inteligencia artificial se concentraban en qué modelo utilizar, qué tareas automatizar y qué aplicaciones podían incorporarse.
Con los agentes capaces de ejecutar acciones de manera autónoma, aparece una segunda capa de preguntas.
¿Qué sistemas puede consultar el agente? ¿Qué credenciales puede utilizar? ¿Puede acceder directamente a internet? ¿Qué ocurre si intenta abandonar el entorno asignado? ¿Quién registra sus acciones? ¿Qué mecanismo independiente puede detenerlo? ¿Qué sucede si una herramienta externa está mal configurada?
Estas preguntas modifican el trabajo de quienes asesoran a una organización en la adopción tecnológica. El conocimiento de la herramienta de IA sigue siendo necesario, pero ya no resulta suficiente para evaluar una implementación.
El Consultor TIC necesita entender cómo se relacionan el modelo con la infraestructura que lo ejecuta y con los sistemas a los que puede acceder. En una implementación empresarial, la arquitectura de seguridad puede ser tan determinante como las capacidades del propio modelo.
De los pronósticos sobre superinteligencia a problemas que ya pueden evaluarse
Los debates sobre una eventual superinteligencia y los riesgos de una IA capaz de mejorar sus propias capacidades han adquirido mayor exposición pública después de las advertencias realizadas por investigadores como Jacob Coxon y Evan Hubinger.
Hubinger, responsable de investigación de alineación en Anthropic, afirmó en septiembre que personalmente estimaba en más de 10% la posibilidad de que una IA acabara con la humanidad durante la próxima década. Sin embargo, el propio investigador aclaró que su preocupación estaba centrada en una futura superinteligencia surgida mediante mejora recursiva y que consideraba bajo el riesgo inmediato de los modelos actuales.
Estas estimaciones corresponden a valoraciones personales y no constituyen una probabilidad científica establecida. La discusión puede continuar alrededor de escenarios futuros, pero los incidentes documentados ofrecen un terreno más concreto para el ecosistema tecnológico: los sistemas actuales ya pueden encontrar rutas no previstas cuando disponen de herramientas y acceso a determinados entornos.
Por eso, para una empresa que evalúa incorporar agentes, la conversación práctica comienza antes de cualquier escenario de superinteligencia.
La regulación también empieza a reaccionar
La discusión tecnológica ya tiene una dimensión regulatoria. En Estados Unidos, los senadores Bernie Sanders y el representante Greg Casar presentaron en septiembre de 2026 el Ban Artificial Superintelligence Act, una iniciativa que propone prohibir el desarrollo y despliegue de sistemas de superinteligencia y establecer una pausa para determinados desarrollos avanzados hasta crear mecanismos federales de supervisión.
La Casa Blanca, por su parte, adoptó una posición diferente. El 29 de septiembre, Donald Trump firmó una orden ejecutiva que instruye al Gobierno federal estadounidense a utilizar los términos “Super Intelligence” y “SI” en lugar de “Artificial Intelligence” y “AI” en determinadas comunicaciones oficiales, al tiempo que plantea desarrollar una definición federal para esa categoría tecnológica.
La existencia de posiciones regulatorias distintas muestra que todavía no hay un consenso sobre cómo debe gobernarse el desarrollo de estas tecnologías. Para el sector TIC, sin embargo, el cambio más inmediato no depende de que se apruebe una determinada ley: depende de que las organizaciones comiencen a exigir controles concretos antes de poner agentes autónomos en producción.
Adaptarse a una nueva arquitectura tecnológica
El desafío para el ecosistema TIC no consiste únicamente en seguir la evolución de los modelos. También implica adaptarse a una arquitectura en la que la inteligencia artificial puede tomar decisiones, utilizar herramientas y actuar sobre sistemas empresariales.
Esa transición conecta directamente con uno de los temas del Diplomado 3 — Negocios, Estrategia y Ecosistema TIC: Adaptación al Cambio. En este escenario, adaptarse no significa simplemente aprender a utilizar una nueva herramienta, sino comprender cómo una transformación tecnológica modifica los criterios con los que se seleccionan soluciones, se evalúan riesgos, se integran plataformas y se asesora a una organización.
Para un Consultor TIC, esa capacidad resulta especialmente relevante cuando una tecnología deja de ser experimental y comienza a incorporarse a procesos empresariales. Los incidentes de 2026 muestran precisamente ese punto de transición: los agentes de IA están dejando de ser solamente una cuestión de capacidades del modelo y empiezan a convertirse en un problema de arquitectura, infraestructura, seguridad, gobierno y operación.
