Altman, de OpenAI, dice que los beneficios de la IA justifican cierto riesgo y rechaza resultados catastróficos
En breve
El CEO de OpenAI, Sam Altman, dijo en una entrevista en Decoded que los beneficios de la IA merecen aceptar cierto riesgo y que la tecnología debe permanecer ampliamente abierta al público, y añadió que no acepta un riesgo verdaderamente catastrófico, como la pérdida de control humano sobre la IA. Describió una “enorme brecha” entre OpenAI y Anthropic, cuyo CEO, Dario Amodei, ha impulsado una regulación estricta de la IA, aunque los documentos señalan que las posiciones de ambas empresas sobre la evaluación externa de seguridad se han acercado recientemente.
Leer la noticia completa 3 min de lectura
El director ejecutivo de OpenAI, Sam Altman, dijo que los beneficios de la inteligencia artificial merecen aceptar cierto riesgo y que la tecnología debe permanecer ampliamente abierta al público, en una entrevista con el programa Decoded. “Creemos que para obtener los beneficios de esta tecnología y dar autonomía a las personas, el mundo debería aceptar ciertos costos y eventos negativos que conlleva”, dijo, según IT Home y 36Kr. CLS informó de que Altman discrepa de su rival Anthropic sobre el riesgo de la IA, diciendo que no acepta que la IA plantee un “riesgo extremadamente destructivo”. [ 1 , 3 , 4 ]
Preguntado por sus diferencias con Anthropic y su director ejecutivo, Dario Amodei, Altman dijo “creo que hay una enorme brecha entre las dos partes”, informó IT Home. IT Home señaló que Anthropic ha sido considerada durante mucho tiempo la defensora más comprometida del sector con una regulación estricta de la IA, mientras que OpenAI antes prefería normas más laxas. [ 3 ]
Altman también trazó un límite en torno al riesgo que acepta. Dijo que los resultados positivos finales de la IA deberían superar los efectos negativos en “varios órdenes de magnitud”, pero que no acepta un riesgo genuinamente catastrófico, incluida una pérdida grave de control humano sobre la IA. Según cnBeta, el entrevistador describió la distinción como clave: las “cosas malas” que Altman acepta se refieren principalmente a incidentes graves individuales que pueden acompañar la difusión y el despliegue de la tecnología, no a permitir que los sistemas causen consecuencias catastróficas. [ 2 , 3 ]
Los documentos señalan que las posiciones de ambas empresas no son fijas. cnBeta informó de que Altman respaldó públicamente el mes pasado el llamamiento de Amodei a controlar el ritmo de desarrollo de los modelos de frontera y apoyó dar a evaluadores independientes acceso con nivel de empleado, y que OpenAI ha respaldado una propuesta bipartidista del Congreso estadounidense que exige que las principales empresas de IA por encima de ciertos umbrales de ingresos y cómputo se sometan a evaluaciones externas de seguridad. IT Home dijo que OpenAI se ha movido recientemente hacia apoyar reglas sectoriales más estrictas mientras lidiaba con ataques de piratería de alto perfil y mal comportamiento de modelos. [ 2 , 3 ]
Sobre la regulación estatal, cnBeta informó de que OpenAI antes impulsaba normas federales uniformes y se oponía a un mosaico de leyes estatales, pero que en septiembre anunció su apoyo a cuatro proyectos de ley de seguridad de la IA de California que abarcan organismos independientes de evaluación de riesgos, estándares para auditores de IA, protección de adolescentes que usan chatbots y defensas contra amenazas biológicas de la IA. La empresa también dijo que apoya requisitos nacionales de seguridad graduados según la capacidad y el riesgo del modelo, y que los estados pueden seguir avanzando antes de que se apruebe la legislación federal, informó cnBeta. [ 2 ]
En conjunto, cnBeta e IT Home dijeron que OpenAI y Anthropic siguen discrepando sobre cuán estricta debe ser la regulación y con qué rapidez debe avanzar el desarrollo, pero que su distancia en la evaluación externa y el control del riesgo de frontera se está estrechando. [ 2 , 3 ]
Por qué importa
Las declaraciones dejan constancia de las diferencias entre dos de los desarrolladores de IA más prominentes sobre cuánto riesgo debe aceptar la sociedad a medida que avanza la tecnología, un debate que da forma a las normas de seguridad en Estados Unidos y otros lugares. Los documentos también indican que la brecha entre ambos se está estrechando en la evaluación externa de los modelos de frontera, aunque siguen discrepando sobre cuán estricta debe ser la regulación y con qué rapidez debe avanzar el desarrollo.
Datos clave
- El CEO de OpenAI, Sam Altman, dijo que los beneficios de la IA merecen aceptar cierto riesgo y que la tecnología debe permanecer ampliamente abierta al público. [ 3 , 4 ]
- Altman dijo que discrepa de Anthropic sobre el riesgo de la IA y describió una “enorme brecha” entre las visiones de ambas empresas sobre la regulación de la IA. [ 1 , 3 ]
- Altman dijo que no acepta un riesgo genuinamente catastrófico, incluida una pérdida grave de control humano sobre la IA. [ 2 , 3 ]
- Altman dijo que los resultados positivos finales de la IA deberían superar los efectos negativos en “varios órdenes de magnitud”. [ 2 ]
- cnBeta informó de que Altman respaldó públicamente el mes pasado el llamamiento del CEO de Anthropic, Dario Amodei, a controlar el ritmo de desarrollo de los modelos de frontera y apoyó dar a evaluadores independientes acceso con nivel de empleado. [ 2 ]
- Los documentos señalan que las posiciones regulatorias de OpenAI y Anthropic han convergido en los últimos meses, aunque siguen divididas sobre el rigor regulatorio y la velocidad de desarrollo. [ 2 , 3 ]
- cnBeta informó de que en septiembre OpenAI anunció su apoyo a cuatro proyectos de ley de seguridad de la IA de California que abarcan organismos independientes de evaluación de riesgos, estándares para auditores de IA, protección de adolescentes que usan chatbots y defensas contra amenazas biológicas de la IA. [ 2 ]
Confirmado por varias fuentes
- Altman dijo que los beneficios de la IA justifican aceptar cierto riesgo y que la tecnología debe permanecer ampliamente abierta al público. [ 3 , 4 ]
- Altman dijo que no acepta un riesgo catastrófico, incluida una pérdida grave de control humano sobre la IA. [ 2 , 3 ]
- Las declaraciones de Altman se hicieron en una entrevista en la que se le preguntó por sus diferencias con Anthropic y su CEO, Dario Amodei. [ 3 , 4 ]
- Los documentos señalan que las posiciones de OpenAI y Anthropic han convergido en los últimos meses, aunque persisten las discrepancias. [ 2 , 3 ]
Aún sin aclarar
- Las medidas regulatorias específicas que se dice que OpenAI apoya Los cuatro proyectos de ley de seguridad de la IA de California, la propuesta bipartidista del Congreso que exige evaluaciones externas de seguridad para las principales empresas de IA por encima de umbrales de ingresos y cómputo, y la continuación de la elaboración de normas estatales antes de la legislación federal son reportados únicamente por cnBeta y no están confirmados por otros documentos.
- El alcance exacto del riesgo que Altman dice que la sociedad debería aceptar Altman dijo que el mundo debería aceptar ciertos eventos negativos; el relato de cnBeta explica que esto se refiere principalmente a incidentes graves individuales que acompañan la difusión y el despliegue de la tecnología, más que a resultados catastróficos, pero los documentos no dan más detalles sobre qué incidentes consideraría aceptables.
Qué dicen los medios locales
Cronología, hora local
- CLS informa de que la posición de Altman sobre el riesgo de la IA diverge de la de Anthropic y que no acepta un “riesgo extremadamente destructivo”. [ 1 ]
- cnBeta publica un relato más completo de la entrevista, incluido el límite de riesgo de Altman y las posiciones regulatorias de OpenAI. [ 2 ]
- IT Home publica las declaraciones de Altman, incluido el comentario de la “enorme brecha” y su opinión de que los beneficios de la IA merecen aceptar cierto riesgo. [ 3 ]
- 36Kr informa de las declaraciones de Altman de que los beneficios de la IA justifican aceptar riesgo y que la tecnología debe permanecer ampliamente abierta. [ 4 ]