El Concejo de Nueva York pregunta a directivos de IA sobre seguridad mientras SpaceXAI se ausenta de la audiencia
En breve
El Concejo de la Ciudad de Nueva York celebró el lunes una audiencia sobre seguridad en IA, con directivos de políticas de OpenAI, Meta, Anthropic y Google declarando mientras el concejo evalúa propuestas de salvaguardas. SpaceXAI, de Elon Musk, fue la única empresa citada que no compareció, y el concejo afirma que violó una citación judicial y que llevará el asunto a los tribunales. El exinvestigador de Anthropic y OpenAI Jacob Coxon declaró al concejo que las empresas fueron “extremadamente imprudentes” y que la IA podría acabar en la extinción humana.
Leer la noticia completa 3 min de lectura
El Concejo de la Ciudad de Nueva York celebró el lunes una audiencia pública sobre seguridad de la inteligencia artificial, con directivos de políticas de OpenAI, Meta, Anthropic y Google compareciendo mientras el concejo evalúa varias propuestas de salvaguardas. [ 1 , 2 , 3 ]
La presidenta del concejo, Julie Menin, pidió a las empresas que cuantificaran el riesgo que plantea su tecnología en un escenario catastrófico de peor caso. Morgan Dwyer, responsable de desarrollo y operaciones de políticas de OpenAI, que declaró de forma virtual junto con los demás representantes, respondió que no lo sabía y que tampoco creía que importara. Menin calificó eso de “frívolo en el mejor de los casos” y preguntó: “Si no pueden cuantificar qué es la seguridad o el riesgo, ¿cómo saben que el producto es seguro?”, comparándolo con una farmacéutica que dijera que no sabe si un medicamento mataría a la gente, informó el New York Post. [ 3 ]
Los directivos también presentaron los beneficios de la tecnología, y Dwyer dijo que “la IA está haciendo posible resolver problemas económicos, científicos y sociales más rápido que nunca”, y señaló avances en investigación médica y herramientas para pequeñas empresas, según el New York Post. [ 3 ]
Jacob Coxon, exinvestigador de Anthropic y OpenAI, declaró que las empresas estaban siendo “extremadamente imprudentes dada la magnitud de lo que está en juego”. “En la trayectoria actual, creo que es más probable que no que la humanidad pierda el control frente a estas IA, y podría acabar en la extinción humana”, declaró al concejo, informó el New York Post. CNBC informó de que Coxon renunció a su puesto en Anthropic y dijo en redes sociales que la empresa y OpenAI estaban “jugando con nuestras vidas”. [ 1 , 3 ]
SpaceXAI, de Elon Musk, fue la única empresa citada a declarar que no compareció. Menin dijo que el concejo había emitido una citación a Musk la semana anterior y que la ausencia fue en “violación directa de la citación”; dijo que el concejo planea “llevar este asunto a los tribunales”, informaron CNBC y UPI. Menin también dijo que la propuesta del gobierno federal de que la IA se autorregule “desafía toda lógica”, mientras que el concejal Oswald Feliz, presidente del Comité de Seguridad Pública, dijo que “una de las mayores preocupaciones es que no se ha creado ninguna salvaguarda”, informó UPI. [ 1 , 2 ]
CNBC informó de que Anthropic, OpenAI y Google aceptaron comparecer solo después de que el concejo amenazara con citarlas, mientras que Meta confirmó a finales del mes pasado que participaría; el New York Post también dijo que las empresas aceptaron declarar tras ser amenazadas con citaciones. UPI enumeró a los testigos como Logan Graham, jefe del Frontier Red Team de Anthropic; Dwyer; Alice Friend, directora de políticas de IA y tecnologías emergentes de Google; y Shane Cahill, director de políticas de IA para legislación de Meta. [ 1 , 2 , 3 ]
CNBC informó de que investigadores de la industria advirtieron en septiembre de que OpenAI y Anthropic compiten por construir modelos que podrían causar daños catastróficos, incluida la extinción humana, lo que generó llamados a una supervisión gubernamental significativa. [ 1 ]
Por qué importa
La audiencia somete a los mayores desarrolladores de IA a un interrogatorio por parte de una gran ciudad estadounidense que considera sus propias restricciones, en un momento en que investigadores y exempleados advierten públicamente sobre un riesgo catastrófico. También plantea una batalla judicial entre el concejo y la unidad de IA de Elon Musk por una citación, que podría poner a prueba hasta dónde pueden las autoridades municipales obligar a declarar a las empresas de IA.
Datos clave
- El Concejo de la Ciudad de Nueva York celebró el lunes 5 de octubre una audiencia sobre seguridad de la inteligencia artificial, con representantes de OpenAI, Meta, Anthropic y Google declarando mientras el concejo evalúa propuestas de salvaguardas. [ 1 , 2 , 3 ]
- La presidenta del concejo, Julie Menin, pidió a las empresas que cuantificaran el riesgo que plantea la IA en un escenario catastrófico de peor caso; Morgan Dwyer, de OpenAI, respondió que no lo sabía y que no creía que importara, lo que Menin calificó de “frívolo en el mejor de los casos”. [ 3 ]
- El exinvestigador de Anthropic y OpenAI Jacob Coxon declaró al concejo que las empresas estaban siendo “extremadamente imprudentes dada la magnitud de lo que está en juego” y que la IA podría acabar en la extinción humana. [ 1 , 3 ]
- SpaceXAI, de Elon Musk, fue la única empresa citada a declarar que no compareció; el concejo dijo que la ausencia violó una citación y que planea llevar el asunto a los tribunales. [ 1 , 2 ]
- Anthropic, OpenAI y Google aceptaron comparecer solo después de que el concejo amenazara con citarlas judicialmente, según CNBC, y el New York Post también informó de que las empresas aceptaron declarar tras ser amenazadas con citaciones. [ 1 , 3 ]
- El concejal Oswald Feliz, presidente del Comité de Seguridad Pública del concejo, dijo que “una de las mayores preocupaciones es que no se ha creado ninguna salvaguarda”. [ 2 ]
- Entre los testigos figuraban Logan Graham, de Anthropic; Morgan Dwyer, de OpenAI; Alice Friend, de Google; y Shane Cahill, de Meta, según UPI. [ 2 ]
Confirmado por varias fuentes
- El Concejo de la Ciudad de Nueva York celebró el lunes una audiencia sobre seguridad en IA con representantes de OpenAI, Meta, Anthropic y Google compareciendo para declarar. [ 1 , 2 , 3 ]
- El concejo evalúa propuestas de salvaguardas para la IA. [ 1 , 2 , 3 ]
- SpaceXAI, de Elon Musk, no asistió a la audiencia aunque fue citada; el concejo dijo que la ausencia fue en “violación directa de la citación” y que planea llevar el asunto a los tribunales. [ 1 , 2 ]
- Jacob Coxon, exinvestigador de Anthropic y OpenAI, compareció en la audiencia y declaró sobre el riesgo que, según él, plantea la IA. [ 1 , 2 , 3 ]
- Julie Menin es la presidenta del Concejo de la Ciudad. [ 2 , 3 ]
- Anthropic, OpenAI y Google aceptaron declarar después de que el concejo amenazara con citarlas. [ 1 , 3 ]
Aún sin aclarar
- Por qué SpaceXAI no asistió a la audiencia y cómo responden Elon Musk o la empresa a la citación del concejo. Los documentos informan de la ausencia, la citación y el plan del concejo de acudir a los tribunales, pero no contienen comentarios de SpaceXAI ni de Musk.
- Qué propuestas concretas de salvaguardas para la IA evalúa el concejo y si se aprobará alguna. Los documentos dicen que el concejo evalúa varias propuestas de salvaguardas, pero ninguno describe su contenido ni el camino hacia una votación.
- La identidad y el testimonio completo de un testigo llamado Kokotajlo, quien, según CNBC, pidió a la industria de la IA aumentar la transparencia y frenar el desarrollo de los modelos líderes. Solo CNBC lo menciona; ningún otro documento lo nombra, indica su afiliación ni describe su testimonio.
- Si el gobierno federal ha creado un pequeño comité para la autorregulación de la IA, como afirmaron miembros del concejo. La afirmación aparece solo en el relato de UPI, atribuida a miembros del concejo, sin citar ninguna fuente federal.
Qué dicen los medios locales
Cronología, hora local
- CNBC informa sobre la lista de participantes en la audiencia, la ausencia de SpaceXAI y el plan del concejo de llevar el asunto a los tribunales. [ 1 ]
- UPI informa de que el Concejo de la Ciudad de Nueva York celebra el lunes la audiencia sobre seguridad en IA con representantes de OpenAI, Meta, Anthropic y Google. [ 2 ]
- El New York Post informa sobre la audiencia de varias horas, incluido el intercambio de la presidenta del concejo, Julie Menin, con Morgan Dwyer, de OpenAI, y el testimonio de Jacob Coxon. [ 3 ]