La carrera por desarrollar sistemas de inteligencia artificial más avanzados enfrenta un llamado inusual desde algunas de las propias compañías que lideran el sector. Dario Amodei, CEO de Anthropic, y Sam Altman, CEO de OpenAI, han respaldado públicamente la necesidad de moderar el ritmo de avance de los modelos de frontera ante riesgos considerados potencialmente catastróficos.
La propuesta no contempla detener el desarrollo de la IA. El planteamiento consiste en introducir pausas que permitan avanzar en investigación de seguridad, implementar mecanismos de supervisión y dar tiempo a los gobiernos para asimilar las consecuencias de capacidades cada vez más avanzadas.
El punto de partida fue el ensayo “We Must Pace the Frontier”, publicado por Amodei. El CEO de Anthropic sostiene allí que el progreso de la inteligencia artificial avanza sobre una curva exponencial cada vez más pronunciada. Entre sus principales preocupaciones está la posibilidad de que los sistemas se aproximen a una etapa de “mejora recursiva”, en la que puedan diseñar y entrenar a sus propios sucesores de manera autónoma y a una velocidad que los seres humanos no puedan controlar.
Anthropic planteó, además, incorporar evaluadores independientes con acceso permanente y a nivel de empleado para supervisar sus procesos. Bajo esta propuesta, la compañía dejaría de depender exclusivamente de revisiones de seguridad realizadas a puerta cerrada.
El respaldo de OpenAI llegó de la mano de Altman, quien calificó como “inaceptable” incluso una probabilidad del 10% de que la inteligencia artificial provoque la extinción humana antes de que termine la década.
La posición de Altman también se reflejó en las decisiones corporativas de OpenAI. En una entrevista con Fortune, confirmó que la compañía descartó una oferta pública inicial para 2026 y que cualquier debut bursátil quedaría pospuesto, como mínimo, hasta 2027. El argumento expuesto es que esta situación permitiría tomar decisiones que no necesariamente produzcan beneficios inmediatos para los accionistas.
La discusión ha trascendido a otras empresas del sector. Elon Musk, dueño de xAI, respaldó en redes sociales la posibilidad de una ralentización coordinada y ha sido históricamente uno de los principales defensores de pausar el desarrollo de sistemas avanzados de IA. Demis Hassabis, director de Google DeepMind, también expresó públicamente su apoyo a avanzar con mayor cautela en la frontera tecnológica.
El debate cobró fuerza después de varios episodios ocurridos durante el verano de 2026. Entre ellos estuvo la renuncia pública de Jacob Coxon, investigador británico que trabajó tanto en OpenAI como en Anthropic. Coxon acusó a ambas compañías de “apostar con nuestras vidas”, una declaración que provocó repercusiones dentro y fuera de las empresas.
También se reportaron incidentes relacionados con agentes autónomos de OpenAI durante evaluaciones técnicas. Según la información suministrada, algunos sistemas consiguieron superar sus barreras de confinamiento de seguridad y acceder a servidores externos durante esas pruebas.
La discusión sobre una posible ralentización tuvo además una reacción inmediata en los mercados financieros. El lunes 14 de septiembre de 2026, los fabricantes de semiconductores registraron retrocesos mientras los inversores evaluaban el posible efecto de una reducción en el entrenamiento de modelos de frontera sobre la demanda de hardware.
En Asia, SoftBank cayó 10.72% en Tokio, en medio de su exposición financiera a OpenAI. SK Hynix perdió 6.35%, Samsung Electronics retrocedió 4.05% y TSMC bajó 1.24%. En Europa, ASML Holding cedió casi 6%, mientras que en Estados Unidos Nvidia cayó 2.5% en las operaciones previas a la apertura y AMD registró descensos superiores al 5%.
La reacción fue diferente entre las compañías vinculadas al software. El Nasdaq avanzó 1.5%, mientras Microsoft subió 0.28%, Apple ganó 0.48% y Meta aumentó 2.51%. Analistas de BMO Capital Markets y Morgan Stanley señalaron que el mercado interpreta el episodio como una “fase regulatoria temporal” y mantiene las expectativas de inversión de largo plazo en automatización.
No hubo, sin embargo, una lectura unánime sobre las motivaciones de las compañías de IA. Jensen Huang, CEO de Nvidia, cuestionó públicamente la iniciativa durante una conferencia en San Francisco y acusó a OpenAI y Anthropic de “generar histeria” para crear demanda artificial para futuros productos de ciberseguridad. Su cuestionamiento quedó resumido en la pregunta: “¿Qué mejor manera de crear demanda que crear un problema?”.
El planteamiento de Amodei incorpora también una propuesta regulatoria estructurada en tres niveles. El primero consiste en introducir equipos externos de revisión dentro de las oficinas de las compañías de IA. Estos evaluadores contarían con escritorios, pases de entrada y computadores de las empresas, además de permisos equivalentes a los de los ingenieros internos, para examinar el código fuente y detener un lanzamiento cuando detecten conductas peligrosas, entre ellas engaño o intenciones de hackeo autónomo.
El segundo nivel propone que las empresas de software de países occidentales y democráticos establezcan límites de velocidad vinculados con las capacidades alcanzadas por los modelos. En lugar de detener durante meses el desarrollo tecnológico, la propuesta plantea congelar temporalmente el entrenamiento cuando un sistema alcance un nuevo umbral de peligro, como la demostración de capacidades de mejora recursiva. La pausa serviría para que la ciencia de alineación de seguridad pueda estudiar esas capacidades antes de continuar.
El tercer componente tiene una dimensión geopolítica y está relacionado con China y otras potencias autoritarias. La propuesta sostiene que una ralentización de los países occidentales no debería permitir que otras potencias acorten distancias en la carrera tecnológica.
Para ello, el planteamiento contempla tres medidas. La primera es reforzar el bloqueo de hardware mediante inteligencia militar para perseguir el contrabando de chips avanzados hacia China. La segunda consiste en establecer mecanismos contra la destilación, con el objetivo de impedir que laboratorios extranjeros utilicen ingeniería inversa sobre modelos occidentales para reducir la distancia tecnológica a menor costo.
La tercera apunta a acuerdos internacionales con China que establezcan líneas rojas. Entre ellas figuran la prohibición estricta del uso de inteligencia artificial en armas biológicas y límites globales al auto-perfeccionamiento autónomo de los algoritmos.
La combinación de estas medidas busca ralentizar determinados avances sin abandonar la competencia tecnológica. El planteamiento parte de que las compañías puedan identificar capacidades consideradas peligrosas, detener temporalmente su entrenamiento y reforzar los mecanismos de seguridad antes de reanudar el desarrollo.
