La discrepancia es asombrosa. Por un lado, advertencias de riesgo existencial, tal vez un 10 por ciento de probabilidad del fin de la civilización. Por otro, parálisis gubernamental.
En las últimas semanas, la alarma sobre agentes de inteligencia artificial impredecibles y fuera de control se ha intensificado drásticamente. Washington no solo tuvo dificultades para responder, sino que apenas logró ponerse de acuerdo sobre si había motivos para preocuparse.
Todo comenzó con agentes de IA que no solo escaparon de sus confinamientos, sino que además parecieron conspirar entre sí para ocultar sus huellas mientras pirateaban la biblioteca de herramientas de inteligencia artificial de otra empresa.
Luego, en un eco deliberado de la carta que Albert Einstein le escribió a Franklin D. Roosevelt sobre el potencial de las armas nucleares, más de 1.300 científicos informáticos pidieron a la industria que redujera la velocidad y que el gobierno interviniera.
En los últimos días, Jacob Coxon, ingeniero de Anthropic que anteriormente trabajó para OpenAI, dimitió de la forma más pública, declarando en las redes sociales que los dos principales laboratorios de IA manifestaban una profunda preocupación mientras seguían avanzando a toda velocidad hacia "sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales".
El sábado, Dario Amodei, director ejecutivo de Anthropic, publicó un ensayo de 3,800 palabras en el que abogaba por una desaceleración global del desarrollo de la IA, reiterando con mayor urgencia las preocupaciones que ya había expresado anteriormente. Elon Musk, el multimillonario rival en la carrera por la IA, que mantiene una estrecha relación con el presidente Trump, respondió rápidamente en X: "Dario tiene razón". Sam Altman, director ejecutivo de OpenAI, también se sumó a la iniciativa para mostrar su apoyo.
Dario is right https://t.co/EwKgqQGaUo
— Elon Musk (@elonmusk) September 12, 2026
Sin embargo, en Washington, prácticamente no ha habido respuesta sustancial. Si entre las décadas de 1940 y 1980 se buscó reducir el riesgo de un intercambio nuclear —creando nuevas instituciones como la Comisión de Energía Atómica y tratados de control de armas para regular el manejo de la tecnología más peligrosa del mundo—, el enfoque del gobierno estadounidense hasta ahora ha sido el más superficial posible.
Hay muchos informáticos, por supuesto, que creen que estas advertencias son exageradas. El propio Trump ha estado a la cabeza de quienes se muestran indiferentes, negándose a abordar cómo equilibrar los riesgos con los posibles beneficios. El jueves, cuando un periodista le preguntó si le preocupaba que la IA pudiera llevar a la extinción humana, restó importancia al asunto.
“No, no tengo ninguna”, dijo. “Me preocupa que si no ganamos en IA, nos encontraremos en una situación muy difícil”.
El presidente rápidamente dio con la respuesta que la Casa Blanca —y quienes consideran que los llamamientos a la ralentización y la regulación son un enorme error estratégico— ven como el factor decisivo: si Estados Unidos flaquea, China ocupará su lugar.
“Ahora mismo llevamos una ventaja considerable sobre China”, dijo Trump, señalando que Xi Jinping, el líder chino, llegaría a Washington en menos de dos semanas. Pero en lugar de hablar sobre la posibilidad de un acuerdo bilateral de IA con China, se refirió a la cena de Estado, que, según él, sería uno de los momentos culminantes de la visita. “Creo que va a ser magnífica”, añadió.
“Magnífica” no es la palabra más utilizada en este verano de sorpresas en el ámbito de la IA.
Los escenarios apocalípticos más temidos en Silicon Valley incluyen la posibilidad de que los sistemas de IA se vuelvan tan avanzados que aprendan a mejorarse automáticamente, un proceso denominado "automejora recursiva". Una preocupación relacionada, surgida a raíz de una serie de incidentes en OpenAI y otros laboratorios de IA, es que los agentes se liberen de las restricciones y decidan completar sus tareas programadas de una manera que, en la jerga de la industria de la IA, no se corresponde con las intenciones humanas.
Otra inquietud es que la IA pueda permitir que actores malintencionados —o gobiernos irresponsables— creen patógenos letales, accedan a sistemas de mando y control nuclear o lancen ciberataques imparables que amenacen con una gran pérdida de vidas o el colapso de la sociedad.
En Palo Alto y Cambridge, los informáticos sugieren que los estadounidenses dejen de pensar en la IA como una simple herramienta y empiecen a considerarla como una especie alternativa, con la que el mundo tendrá que convivir, para bien o para mal.
La Casa Blanca se negó a poner a disposición de los medios a sus principales responsables políticos en materia de IA para responder preguntas. Sin embargo, afirmó que la administración seguía buscando un equilibrio entre innovación y seguridad, evitando dar detalles al respecto.
El New York Times ha demandado a OpenAI y Microsoft, alegando infracción de derechos de autor sobre contenido informativo relacionado con sistemas de IA. Ambas compañías han negado dichas acusaciones.
A principios del verano, Trump firmó una orden ejecutiva que creaba un sistema voluntario para que los laboratorios de IA de vanguardia presentaran sus nuevos modelos para una revisión de seguridad de 30 días. Sin embargo, estaba plagada de lagunas. Los modelos de código abierto, como los que producen las empresas chinas y que pueden ser adaptados a necesidades específicas por empresas, científicos o, incluso, grupos terroristas, no están sujetos a dicha revisión.
En medio de los numerosos actos conmemorativos del viernes pasado por el 25 aniversario de los atentados del 11 de septiembre, el contraste con aquella época es notable. La revelación de la vulnerabilidad estadounidense llevó al vicepresidente Dick Cheney a desarrollar lo que pronto se conoció como la "doctrina del 1%". Impulsada por el temor a que científicos paquistaníes pudieran ayudar a Al Qaeda a desarrollar un arma nuclear, esta doctrina sostenía que el gobierno debía actuar incluso si el riesgo era remoto, debido a las graves consecuencias.
Sam Altman, el CEO de OpenIA, en un evento de negocios en Japón. Foto Kim Kyung-Hoon / Reuters
En este caso, un 1 por ciento parece una probabilidad bastante buena: Evan Hubinger, quien dirige la ciencia de la "alineación" en Anthropic, que intenta contener el código para alinearlo con los objetivos humanos, escribió en los últimos días que el riesgo de extinción masiva en la próxima década era superior al 10 por ciento.
Es imposible saber si esa estimación es correcta. Pero como lo expresó Ben Buchanan, profesor asistente de Johns Hopkins y coautor del próximo libro La amarga lucha: superinteligencia, superpotencias y el destino del mundo: "No me cabe duda de que la tecnología seguirá mejorando muy rápidamente, lo que plantea interrogantes urgentes sobre los riesgos biológicos y la pérdida de control".
“Estamos en un período de desarrollo exponencial, y solo hay dos maneras de responder: demasiado pronto o demasiado tarde”, dijo. “El mundo perdió la oportunidad de reaccionar demasiado pronto”.
Miedo a superar a Trump
La actitud indiferente del presidente Trump ante los temores existenciales relacionados con la IA influye tanto en su administración como en el Partido Republicano que aún controla férreamente.
En una conferencia celebrada en Washington la semana pasada, funcionarios gubernamentales y ejecutivos de empresas hablaron sobre las promesas de la IA —que abarcan desde operaciones militares de última generación hasta espionaje y ciberseguridad en infraestructuras críticas— en casi todos los paneles. Si bien se mencionaron en ocasiones los riesgos del uso de la IA por parte de adversarios, apenas se debatió la necesidad de frenar o regular esta poderosa tecnología.
En su intervención el jueves pasado en la Cumbre de Ciberseguridad de Billington, Sean Cairncross, director nacional de ciberseguridad de la Casa Blanca, afirmó que la administración está "intentando equilibrar la innovación y la rapidez con la seguridad (de los sistemas) y el manejo responsable de esta tecnología".
Resumió: "Es decir, evitar que caiga en manos de quienes nos perjudican, nuestros adversarios". Cairncross no abordó directamente los crecientes temores sobre el rápido avance de la IA ni los recientes casos de agentes deshonestos que se han infiltrado en otras redes.
Algunos miembros de la Casa Blanca y de otras dependencias de la administración consideran necesario ser más proactivos a la hora de abordar los riesgos de seguridad de la IA, pero no quieren contradecir a Trump, según han declarado antiguos funcionarios.
“Existe el temor de adelantarse al presidente”, dijo Michael Garcia, quien se desempeñó como jefe adjunto de políticas en la Agencia de Seguridad de Infraestructura y Ciberseguridad hasta que dejó el cargo en junio.
“Hemos visto a ejecutivos de empresas tecnológicas llamar al presidente cuando se enteran de una posible nueva política para expresar su descontento, lo que luego lleva a que la política cambie o sea descartada”, dijo García y agregó: “Esto inevitablemente genera inercia para desarrollar una nueva política de seguridad nacional que podría ser muy necesaria”.
De hecho, David Sacks, inversor de capital riesgo y antiguo asesor de inteligencia artificial del presidente Trump, desestimó durante una entrevista con Fox News las advertencias de Coxon, calificándolas de operación mediática coordinada "diseñada para asustar al público" y provocar una regulación gubernamental excesiva. Por su parte, Jensen Huang, director ejecutivo del gigante de los chips Nvidia, afirmó que esta nueva ola de temor fue orquestada por la industria de la ciberseguridad.
Dario Amodei, CEO de Anthropic, en una reunión en India. Crece la necesidad de desacelerar el desarrollo de la IA por sus riesgos. Foto Bhawika Chhabra / Reuters
En el Capitolio, la situación no es muy diferente. Hasta la semana pasada, la IA solo era relevante para muchos legisladores en relación con la antipatía pública hacia la construcción de centros de datos, un tema que se ha vuelto políticamente importante en las elecciones de mitad de mandato, según legisladores y asesores de ambos partidos. Los intentos anteriores de analizar las posibles consecuencias de la IA han derivado en audiencias y declaraciones alarmantes de ambos partidos, pero poco más.
El representante Josh Gottheimer, demócrata de Nueva Jersey que forma parte de varios subcomités de IA y ciberseguridad, dijo que la vertiginosa velocidad de la evolución de la IA dificulta que los legisladores se mantengan al día.
“Sigo insistiendo en la importancia de educar periódicamente a los legisladores sobre la IA y los últimos avances”, dijo. “Incidentes recientes como el ataque informático a Hugging Face son una verdadera señal de alerta sobre lo que puede suceder si no abordamos seriamente los riesgos que estos modelos pueden plantear”, agregó Gottheimer, refiriéndose a la empresa de IA que fue hackeada por modelos maliciosos de OpenAI a principios de este año.
A este desafío se suma el hecho de que la IA no es solo una cuestión tecnológica, sino también un problema que afecta al empleo, al ejército y a toda la sociedad, lo que significa que no existe un comité del Congreso especialmente capacitado para liderar el abordaje de todas sus ramificaciones.
Con China, un "dilema del prisionero"
Tras la dimisión de Coxon esta semana, los demócratas y algunos republicanos salieron de su letargo. Expresaron numerosas reacciones de preocupación y propusieron investigar a las empresas de IA y el ritmo de desarrollo de los modelos, incluyendo una propuesta de los demócratas para crear un comité especial sobre IA si el partido recupera la Cámara de Representantes el próximo año, según informó Politico.
A medida que el tema cobra mayor importancia en las próximas elecciones de mitad de mandato, el expresidente Barack Obama advirtió la semana pasada en un evento privado de recaudación de fondos que la IA podría ser "peligrosa" e imploró a los demócratas que desarrollaran "un plan muy claro" sobre los riesgos para la seguridad y la economía.
Para Barack Obama la IA podría ser "peligrosa" y le pidió un "plan muy claro" al partido demócrata. Foto Adam Gray / AP
El senador Bernie Sanders, independiente de Vermont, quien durante meses ha sido quizás la voz más crítica en el Capitolio advirtiendo sobre los riesgos sociales de la IA, invitó a los legisladores a una reunión informativa privada en los próximos días para discutir las preocupaciones con expertos en seguridad de la IA.
Sanders ha impulsado la prohibición de la IA superinteligente, aunque otros legisladores han criticado esta iniciativa por considerarla un freno a la innovación estadounidense.
Las misivas del Congreso se volvieron más urgentes tras la publicación el jueves pasado de un informe de Anthropic que mostraba las múltiples formas en que actores de todo el mundo, incluidos China, Rusia, Irán y Yemen, habían estado utilizando sus diversos modelos Claude para desarrollar ciberataques, vigilar a disidentes y construir misiles, bombas y drones. El informe también documentó varios casos de posibles intentos de diseñar armas biológicas, lo que se considera una de las amenazas existenciales más graves relacionadas con la IA.
Cabría esperar que ese informe impulsara la acción: combinaba la presencia de beligerantes extranjeros con ataques contra objetivos estadounidenses, aunque Anthropic bloqueó o frustró muchos de los casos documentados de abuso.
A pesar de las alarmas, los legisladores están lejos de ponerse de acuerdo sobre cómo regular los modelos de IA o las empresas que los desarrollan. Las perspectivas de aprobar una legislación sustantiva a corto plazo parecen remotas, en parte porque muchos ven el tema como un "dilema del prisionero" creado por la carrera de la IA entre Estados Unidos y China. Dado que el dominio de la IA es el principal problema de seguridad nacional del siglo, sin duda ambas naciones se beneficiarían si cooperaran en materia de límites. Pero es posible que no confíen en que la otra cumpla dicho acuerdo. Y, en cualquier caso, a diferencia del control de armas nucleares, el cumplimiento sería prácticamente imposible de verificar.
El senador Ted Cruz, republicano de Texas y presidente del Comité de Comercio, reconoció la semana pasada su profunda preocupación por los riesgos que la IA representa para la humanidad. Sin embargo, también sugirió que Coxon formaba parte de un esfuerzo coordinado para apoyar las iniciativas demócratas de "asfixiar la IA estadounidense" y ceder el liderazgo tecnológico a China.
“Prefiero que sean robots asesinos estadounidenses y no robots asesinos chinos”, declaró Cruz a Politico.
Sin embargo, el senador republicano afirmó que estaba trabajando en una legislación con sus pares Amy Klobuchar, demócrata de Minnesota, y John Thune, de Dakota del Sur, líder de la mayoría republicana, destinada a abordar los riesgos catastróficos de la IA relacionados con las amenazas biológicas y nucleares.
Las probabilidades de que esta u otras propuestas legislativas —incluida la de exigir un "interruptor de emergencia" en los modelos de IA que permita su apagado inmediato— ganen terreno a dos meses de las elecciones parecen escasas. Tampoco está claro si el nuevo Congreso del próximo año podrá superar las profundas divisiones partidistas para abordar una tecnología que evoluciona tan rápidamente, especialmente con las advertencias del presidente estadounidense en contra de la regulación.
Donald Trump en una cancha de golf, en su visita a Irlanda. Crecen las críticas sobre su pasividad ante el avance de la IA. Foto EFE
Algunos funcionarios de la administración Trump han reconocido que la IA ha aumentado drásticamente los riesgos. Nick Anderson, director interino de la Agencia de Seguridad de Infraestructura y Ciberseguridad, afirmó que las amenazas digitales se han vuelto más urgentes en la era de la IA y exigen medidas rápidas.
“Sabemos lo peor que puede pasar”, dijo. Dirigiéndose a la audiencia de funcionarios gubernamentales y ejecutivos de ciberseguridad en la conferencia de Billington, Anderson lanzó una seria advertencia: si no se toman más medidas para proteger al país, los escenarios apocalípticos podrían convertirse en realidad.
El funcionario alertó: “Todos ustedes tendrán que volver a casa y hablar con sus familias y amigos -dijo- y explicarles cómo sabían lo peor que podía pasar y por qué no hicimos lo suficiente”.
The New York Times
David E. Sanger cubre la administración Trump y diversos temas de seguridad nacional. Ha sido periodista del Times durante más de cuatro décadas y es autor de cuatro libros sobre política exterior y desafíos de seguridad nacional.
Dustin Volz escribe sobre ciberseguridad e inteligencia para The Times. Reside en Washington.
DS
Todavia no hay comentarios aprobados.