Los modelos de inteligencia artificial de Anthropic fueron objeto de intentos de uso con fines relacionados con armas biológicas, ciberataques, espionaje y operaciones de influencia, según el tercer informe de inteligencia sobre amenazas publicado por la compañía el 10 de septiembre de 2026.
Las detecciones abarcaron un periodo de ocho meses, entre diciembre de 2025 y agosto de 2026. Como respuesta, Anthropic reforzó sus mecanismos de seguridad y aplicó restricciones adicionales en sus modelos de última generación.
Uno de los hallazgos correspondió a al menos cinco investigaciones científicas potencialmente relacionadas con el desarrollo de armas biológicas o patógenos con alto potencial pandémico. Entre ellas estuvo un intento atribuido a un instituto de investigación militar que habría operado bajo la fachada de científicos civiles.
En ese caso se intentó utilizar Claude para preparar una propuesta de financiación relacionada con una investigación de ganancia de función sobre el virus Chikungunya. El propósito descrito era modificar genéticamente el virus para aumentar considerablemente su transmisibilidad, daño y resistencia frente al sistema inmunitario humano.
Anthropic también identificó el intento de una entidad estatal de emplear sus modelos en investigaciones relacionadas con venenos no contagiosos.
La compañía señaló, sin embargo, que las solicitudes fueron realizadas utilizando modelos anteriores, entre ellos Claude Opus 4 y Sonnet 4.5, cuyas capacidades todavía estaban “muy por debajo” del umbral necesario para proporcionar asistencia real y significativa en la creación de un arma biológica compleja. Aun así, las actividades fueron bloqueadas de manera preventiva conforme a las políticas de seguridad de Anthropic.
Los nuevos mecanismos implementados por la compañía incluyen salvaguardas adicionales para sus modelos más recientes, entre ellos Claude Fable 5 y la familia Mythos. Estas medidas buscan restringir el acceso a consultas de investigación biológica con potencial de doble uso, es decir, aquellas que pueden tener aplicaciones tanto médicas como militares.
El sistema de protección también fue diseñado para examinar con mayor profundidad los prompts que reciben los modelos. El objetivo es identificar intentos de presentar solicitudes peligrosas como si correspondieran a trabajos académicos o corporativos.
El informe recoge además actividades ajenas al ámbito biológico. Anthropic identificó intentos de actores ubicados en China, Rusia y Yemen para utilizar Claude en el desarrollo de software destinado a armas convencionales, incluidos sistemas de guía para misiles.
También fueron detectadas operaciones de influencia relacionadas con Rusia, Irán y Turquía. Según el reporte, esas redes empleaban inteligencia artificial para crear cuentas falsas y difundir de manera coordinada narrativas políticas en redes sociales.
La protección de los propios modelos se convirtió igualmente en un frente de seguridad. Anthropic reportó campañas de destilación y extracción orientadas a obtener capacidades de Claude mediante grandes cantidades de consultas automatizadas y específicas. Los actores involucrados buscaban utilizar las respuestas obtenidas para entrenar modelos locales de menor tamaño y sin los mismos filtros de seguridad.
La compañía también registró intentos de phishing dirigidos contra sus ingenieros y contra trabajadores de proveedores de infraestructura en la nube, entre ellos AWS y Google Cloud. El propósito era obtener fragmentos del código fuente relacionado con los mecanismos de alineación y seguridad de los modelos para localizar vulnerabilidades y superar sus restricciones.
Estos riesgos se producen mientras Anthropic aplica su Compromiso de Escalamiento de Seguridad, conocido como RSP por sus siglas en inglés. El esquema establece distintos Niveles de Seguridad de Alineación, o ASL, inspirados en los niveles de bioseguridad utilizados en laboratorios biológicos.
Cuando un modelo alcanza ASL-3, nivel asociado con capacidades que podrían aumentar significativamente el riesgo de catástrofes globales en ámbitos como los ciberataques masivos y las armas biológicas, la compañía activa mecanismos adicionales de protección.
Entre ellos está la Inferencia Segura Estricta, bajo la cual los servidores que ejecutan el modelo tienen controles de acceso restringidos. El acceso directo a los pesos del modelo por parte de empleados de Anthropic requiere una clave multifactorial y una justificación de auditoría aprobada por el comité de seguridad.
También se utiliza Red Teaming Automatizado antes de las actualizaciones. Sistemas de inteligencia artificial adversarios y expertos humanos someten los modelos a pruebas destinadas a encontrar formas de incumplir sus reglas. Si durante estas evaluaciones el modelo revela información que debería estar restringida, el despliegue de la actualización se detiene hasta corregir la vulnerabilidad.
Los datos de entrenamiento y los pesos correspondientes a modelos ASL-3 cuentan, además, con cifrado para protegerlos frente a intentos de robo físico o digital, incluidos aquellos asociados con ataques estatales destinados a clonar la inteligencia del sistema.
Las restricciones de Anthropic también han abierto un debate sobre el uso militar de la inteligencia artificial. Mientras el Pentágono y distintas agencias de inteligencia occidentales buscan incorporar sistemas de IA de frontera para tareas como logística, ciberdefensa y análisis táctico de combate, las directrices de la compañía impiden determinadas consultas vinculadas con aplicaciones letales.
El problema del llamado doble uso constituye uno de los principales puntos de discusión. Investigaciones sobre biología y ciberseguridad pueden tener objetivos legítimos y defensivos, pero las medidas destinadas a impedir usos peligrosos también han generado quejas de investigadores académicos y agencias estatales que consideran que algunas solicitudes legítimas de biodefensa médica son bloqueadas por error.
La posición de Anthropic se produce, además, en medio de cuestionamientos internos sobre el desarrollo responsable de sistemas de inteligencia artificial de frontera. Días antes de la publicación del informe, Jacob Coxon, investigador de seguridad de la compañía, renunció públicamente después de expresar dudas sobre la responsabilidad con la que las empresas tecnológicas están desarrollando estos sistemas y advertir sobre los riesgos de perder el control humano frente a futuras tecnologías de superinteligencia.
El reporte se conoce en un contexto en el que otras compañías también han informado sobre intentos de uso indebido de sus herramientas. Google, por ejemplo, reportó recientemente el bloqueo de Gemini ante una solicitud de un usuario que buscaba obtener una guía técnica detallada para sintetizar agentes biológicos militarizados.
La discusión también alcanza a la política de defensa. Las restricciones de Anthropic han generado un debate con agencias gubernamentales y organismos de defensa de Estados Unidos sobre hasta dónde deben llegar los controles aplicados a modelos de inteligencia artificial con capacidades avanzadas.
A esto se suma una presión competitiva: existe la advertencia de que restricciones estrictas para aplicaciones de defensa podrían llevar a algunos gobiernos a recurrir a modelos de código abierto o tecnologías desarrolladas por países que no cuentan con controles éticos ni salvaguardas ASL.
