Axios: los líderes de OpenAI y Anthropic se preparan ante un posible incidente catastrófico de IA

Los líderes de OpenAI, Anthropic y otras empresas de inteligencia artificial estudian escenarios sobre cómo reaccionarían el público y las autoridades ante un incidente catastrófico relacionado con la IA, informó Axios, citando fuentes del sector. Vedomosti, citando a Axios, dijo que el director de OpenAI, Sam Altman, y el responsable de Anthropic, Dario Amodei, consideran un gran incidente cibernético un riesgo serio para el sector. [ 1 , 2 , 3 , 4 , 5 ]

El escenario citado con más frecuencia es un gran ciberataque que podría paralizar los servicios financieros, internet o incluso el suministro eléctrico y de agua. Meduza escribió que, ya proceda un incidente así de agentes de IA que escapan de un entorno de pruebas o de actores malintencionados, profundizaría la desconfianza hacia la tecnología y sus desarrolladores. Algunos representantes del sector dijeron a Axios que un incidente grave podría ocurrir en los próximos 6 a 12 meses; iXBT señaló que se trata de una evaluación de riesgos potenciales, no de un pronóstico confirmado. [ 1 , 2 , 5 ]

Según Axios, muchos investigadores destacados de IA y directivos de empresas consideran inevitable un gran incidente relacionado con la IA. Kommersant añadió que no solo las empresas, sino también organismos gubernamentales, entre ellos el Pentágono, analizan posibles catástrofes. Los desarrolladores temen la ira pública contra las empresas tecnológicas, sus directivos y el presidente Donald Trump. Kommersant describió a Trump como alguien que no quiere regular el sector, Vedomosti señaló la ausencia de una regulación estatal estricta e iXBT se refirió al enfoque de su administración en la regulación del sector. [ 1 , 2 , 3 , 5 ]

OpenAI confirmó que realiza ejercicios de preparación en los que los equipos debaten y analizan distintos escenarios potenciales, y subrayó que no los considera inevitables. Anthropic declinó hacer comentarios a Axios. [ 2 , 3 , 5 ]

Meduza informó de que el trabajo con el Congreso de EE. UU. es un eje central de la planificación. Tras las elecciones de mitad de mandato del 3 de noviembre, los demócratas, partidarios de una regulación de la IA más dura que los republicanos, podrían reforzar su posición; entre sus ideas más radicales figuran prohibir la creación de superinteligencia y pausar el desarrollo de los modelos de frontera. Un mecanismo de apagado de emergencia para sistemas avanzados de IA es popular entre miembros de ambos partidos y, según Vedomosti, también entre parte del sector empresarial, aunque Meduza informó de que los expertos dudan de que los sistemas de IA puedan apagarse por completo. [ 1 , 3 ]

Como ejemplo de la amenaza, iXBT dijo que Axios citó un presunto ciberataque contra organizaciones financieras surcoreanas en el que un atacante de China habría usado herramientas de IA, incluidos modelos de DeepSeek, para robar datos de decenas de miles de clientes bancarios y, según CrowdStrike, habría pedido ayuda a Claude Code para encontrar dónde vender los datos. Vedomosti recordó que The Wall Street Journal informó el 7 de octubre de que hackers que usaban agentes de IA atacaron al menos a siete empresas financieras surcoreanas y accedieron a datos personales de 68 000 personas. Los investigadores hallaron indicios de la herramienta china de ciberseguridad Artex AI, la Agencia Nacional de Policía de Corea del Sur abrió una investigación y los atacantes no han sido identificados, dijo Vedomosti. [ 2 , 3 ]