El jefe de OpenAI, Altman, afirma que los beneficios de la IA justifican los riesgos y advierte sobre la sobrerregulación
En breve
Sam Altman, el jefe de OpenAI, que desarrolla ChatGPT, dijo que los beneficios de la inteligencia artificial justifican los riesgos y los eventos negativos que conlleva, según RBC, TASS y RIA Novosti, que atribuyeron las declaraciones a una entrevista con Politico. Dijo que no está preparado para aceptar “riesgos verdaderamente catastróficos”, incluida la posibilidad de perder el control sobre la IA. Un relato más completo de un medio tecnológico añade que Altman quiere que la IA siga siendo ampliamente accesible y contrasta la postura de OpenAI con el enfoque más estricto de Anthropic hacia la regulación.
Leer la noticia completa 2 min de lectura
Sam Altman, el jefe de OpenAI, que desarrolla el chatbot ChatGPT, dijo que los beneficios de la inteligencia artificial justifican los riesgos que conlleva y los eventos negativos que ocurren, según RBC, TASS y RIA Novosti. RBC y TASS atribuyeron las declaraciones a una entrevista con Politico; RBC nombró a Altman en un segundo informe después de referirse inicialmente a él solo como el jefe de OpenAI, y el primer informe de RIA Novosti llevaba el titular de que los beneficios de usar la IA justifican los riesgos. [ 1 , 2 , 3 , 4 ]
Altman dijo que no estaba preparado para aceptar “riesgos verdaderamente catastróficos”, informaron TASS y RBC. RBC dijo que describió como “inaceptables” los riesgos catastróficos, incluida una pérdida grave de control sobre la inteligencia artificial. [ 1 , 3 ]
El medio tecnológico 3DNews, que ofreció un relato más completo, informó que Altman dijo que la IA debería seguir siendo ampliamente accesible para el público y que esa es la diferencia fundamental entre OpenAI y su competidora Anthropic, que adopta un enfoque más estricto para regular el desarrollo de los sistemas de IA. Altman dijo a Politico: “Creemos que el mundo debe aceptar el hecho de que ocurrirán algunas cosas malas, para el desarrollo de esta tecnología y para dar a las personas la oportunidad de tomar decisiones por sí mismas”, informó 3DNews. Calificó de completamente “inaceptable” el compromiso de aceptar una propuesta según la cual una sola empresa trabajaría en IA, controlaría su despliegue y decidiría quién se beneficia de ella, dijo el medio. [ 6 ]
3DNews también informó que Anthropic había sido considerada durante mucho tiempo como la defensora más decidida de la regulación de la IA en la industria, pero que los desacuerdos entre las dos empresas líderes se han suavizado en los últimos meses a medida que OpenAI respaldó restricciones más estrictas tras incidentes de hacking de alto perfil y comportamientos fraudulentos de sus modelos. Dijo que Altman estuvo de acuerdo con el llamado del jefe de Anthropic, Dario Amodei, a frenar el desarrollo de los modelos de IA más avanzados, que OpenAI siguió a Anthropic al aprobar nuevas leyes de California que establecen requisitos más estrictos de seguridad de la IA, y que los lobistas de OpenAI respaldaron recientemente una propuesta de la Cámara de Representantes de Estados Unidos que exige a las principales empresas de IA incorporar evaluadores de seguridad externos. [ 6 ]
RIA Novosti publicó posteriormente un segundo informe en el que dice que el jefe de OpenAI advirtió sobre las consecuencias de una supervisión excesiva de la IA. El documento disponible para nosotros contenía solo ese titular, sin texto de artículo ni resumen. [ 5 ]
El hacking y el fraude aparecieron en la cobertura de los riesgos: RBC dijo que Altman considera que los beneficios de la IA justifican algunos riesgos, incluidos el hacking y el fraude, mientras que 3DNews lo citó diciendo que no prometería que no habría hackeos graves, ni abuso de la tecnología, ni fraude. Los documentos no dicen cuándo ni dónde se hicieron las declaraciones. [ 1 , 6 ]
Por qué importa
Las declaraciones provienen del jefe de uno de los desarrolladores de IA más prominentes, cuyas posiciones se leen ampliamente como una señal de cómo la industria enmarca las disyuntivas de desplegar la tecnología. La cobertura adicional muestra a OpenAI posicionándose entre los llamados a una regulación más estricta y las advertencias de que una supervisión excesiva tiene costos. Los documentos no indican ninguna decisión política ni consecuencia regulatoria en Rusia ni en otros lugares.
Datos clave
- Sam Altman es el jefe de OpenAI, que desarrolla el chatbot ChatGPT. [ 2 ]
- Altman dijo que los beneficios de la inteligencia artificial justifican los riesgos que hay que asumir y los eventos negativos que ocurren, según Politico. [ 1 , 2 , 3 , 4 ]
- Dijo que no está preparado para aceptar “riesgos verdaderamente catastróficos”, incluida la posibilidad de perder el control sobre la IA. [ 1 , 3 ]
- RBC informó que describió riesgos catastróficos como una pérdida grave de control sobre la inteligencia artificial como “inaceptables”. [ 1 ]
- 3DNews informó que Altman dijo que la IA debería seguir siendo ampliamente accesible y que esa es la diferencia fundamental entre OpenAI y la competidora Anthropic, que adopta un enfoque más estricto para regular el desarrollo de la IA. [ 6 ]
- 3DNews informó que Altman estuvo de acuerdo con el llamado del jefe de Anthropic, Dario Amodei, a frenar el desarrollo de los modelos de IA más avanzados, y que OpenAI respaldó nuevas leyes de California con requisitos más estrictos de seguridad de la IA y una propuesta de la Cámara de Representantes de Estados Unidos que exige a las principales empresas de IA incorporar evaluadores de seguridad externos. [ 6 ]
- RIA Novosti publicó un segundo informe en el que dice que el jefe de OpenAI advirtió sobre las consecuencias de una supervisión excesiva de la IA; el documento disponible solo contenía el titular. [ 5 ]
Confirmado por varias fuentes
- Sam Altman, el jefe de OpenAI, que desarrolla ChatGPT, dijo que los beneficios de la inteligencia artificial justifican los riesgos y los eventos negativos que conlleva. [ 1 , 2 , 3 , 4 ]
- Altman dijo que no está preparado para aceptar “riesgos verdaderamente catastróficos”, incluida la posibilidad de perder el control sobre la inteligencia artificial. [ 1 , 3 ]
- El hacking y el fraude aparecen en la cobertura de los riesgos: RBC dijo que Altman considera que los beneficios de la IA justifican algunos riesgos, incluidos el hacking y el fraude, y 3DNews lo citó diciendo que no prometería que no habría hackeos graves, ni abuso de la tecnología, ni fraude. [ 1 , 6 ]
Aún sin aclarar
- Cuándo, dónde y en qué formato hizo Altman las declaraciones. Los documentos solo dicen que habló con Politico, sin fecha, lugar ni formato de la entrevista.
- A qué consecuencias de una supervisión excesiva de la IA se refería RIA Novosti. El segundo informe de RIA Novosti sobre el tema solo lleva un titular, sin texto de artículo ni resumen en nuestros documentos.
- Qué propuesta rechazaba Altman cuando la calificó de “compromiso inaceptable” que una sola empresa trabaje en IA, controle su despliegue y decida quién se beneficia. Solo 3DNews informa de este pasaje, y no identifica la propuesta.
- El resto de la cita de Altman sobre no prometer la ausencia de hackeos graves, abuso, fraude y otros problemas, que se corta a mitad de palabra en el texto de 3DNews. El texto del artículo del documento termina a mitad de frase, por lo que la declaración completa no está disponible.
- El respaldo reportado de OpenAI a normas más estrictas en California y en la Cámara de Representantes de Estados Unidos, que coexiste con la descripción de Altman de la propia postura de OpenAI como más blanda en materia de regulación. Este relato proviene de un único medio, 3DNews, y la aparente tensión dentro de él no se explica en los documentos.
Qué dicen los medios locales
Cronología, hora local
- RBC publica su primer informe, en el que dice que el jefe de OpenAI instó al mundo a aceptar “cosas malas” por los beneficios de la IA y calificó los riesgos catastróficos de “inaceptables”. [ 1 ]
- RBC publica un segundo informe en el que nombra a Sam Altman e identifica a Politico como el medio con el que habló. [ 2 ]
- TASS informa que Altman dijo que los beneficios de usar la IA justifican los riesgos, y que no está dispuesto a aceptar los catastróficos. [ 3 ]
- RIA Novosti publica un informe titulado que el jefe de OpenAI considera que los beneficios de la IA justifican los riesgos. [ 4 ]
- RIA Novosti publica un segundo informe en el que dice que el jefe de OpenAI advirtió sobre las consecuencias de una supervisión excesiva de la IA. [ 5 ]
- 3DNews publica un relato más completo, que incluye las declaraciones de Altman sobre accesibilidad, el contraste de OpenAI con Anthropic y los puntos regulatorios de California y la Cámara de Representantes de Estados Unidos. [ 6 ]