La inteligencia artificial volvió a ocupar un lugar central en la agenda de la Casa Blanca con el encuentro entre el presidente de Estados Unidos, Donald Trump, y Dario Amodei, CEO de Anthropic. La reunión tuvo lugar el domingo 27 de septiembre, en un momento marcado por el debate sobre los riesgos de los sistemas avanzados y el ritmo al que debe continuar su desarrollo.
Trump había confirmado durante la jornada que cenaría con Amodei a las 10:00 p. m. El encuentro constituyó la primera reunión privada entre ambos y se produjo después de varios meses de diferencias entre Anthropic y la administración estadounidense.
La posición de cada uno frente a la seguridad de la IA ha sido diferente. Amodei ha planteado la necesidad de reducir el ritmo de desarrollo de los sistemas más avanzados para permitir que las medidas de seguridad evolucionen al mismo tiempo. El ejecutivo incluso ha advertido que, sin una desaceleración, en un periodo de seis a 12 meses la IA podría llegar a coordinar grupos de agentes capaces de tomar el control de internet.
Trump, en cambio, ha insistido en que Estados Unidos no debería ralentizar el desarrollo de estas tecnologías. El presidente ha vinculado esta posición con la competencia tecnológica frente a China y ha cuestionado las advertencias sobre posibles escenarios de pérdida de control de los sistemas de inteligencia artificial. El domingo, al ser consultado sobre los recientes incidentes de seguridad relacionados con modelos de IA, respondió: “I’m not worried about it.”
Una relación marcada por el conflicto con el Pentágono
La cena se produjo apenas dos días después de una decisión judicial desfavorable para Anthropic. Una corte federal de apelaciones confirmó la clasificación de la compañía como un riesgo para la cadena de suministro del Departamento de Defensa de Estados Unidos, una medida que permite al Pentágono continuar retirando los modelos Claude de sus sistemas.
La disputa comenzó en febrero, cuando la administración Trump y el Departamento de Defensa cuestionaron la posición de Anthropic sobre el uso militar de sus modelos. La empresa se había negado a permitir determinados usos relacionados con armas autónomas y vigilancia masiva doméstica, una posición que profundizó el enfrentamiento con el Gobierno.
El encuentro adquiere así una dimensión adicional para el sector tecnológico: además de las diferencias sobre seguridad de la IA, pone nuevamente en contacto a la Casa Blanca con una de las compañías que desarrolla modelos avanzados de inteligencia artificial.
Seguridad de los sistemas y nuevos incidentes
La conversación entre Trump y Amodei también se produjo mientras aumentan los reportes sobre comportamientos no previstos de sistemas de IA. En los últimos días se conocieron incidentes relacionados con modelos capaces de interactuar con sistemas externos y sitios web, lo que ha elevado las preocupaciones sobre los mecanismos utilizados para contener este tipo de tecnologías.
El debate no se limita a Anthropic. Distintos ejecutivos del sector han planteado la necesidad de establecer mecanismos de seguridad para los modelos más avanzados, mientras la administración estadounidense sostiene que el país debe preservar su ventaja tecnológica frente a China. Bill Gates, por ejemplo, también ha defendido la implementación de salvaguardas y rechazado la idea de que las preocupaciones sobre los riesgos de la IA sean un engaño.
La discusión tendrá continuidad en Washington. Trump y el presidente de la Cámara de Representantes, Mike Johnson, tienen previsto reunirse el martes 29 de septiembre con ejecutivos de las principales compañías de inteligencia artificial para abordar asuntos relacionados con el desarrollo de la tecnología.
