Denunciantes de IA advierten al concejo de Nueva York sobre el riesgo de extinción y piden supervisión
En breve
Exempleados de Anthropic, OpenAI y Google DeepMind declararon el lunes ante una audiencia del Concejo Municipal de Nueva York que las empresas de IA corren por construir una tecnología que no pueden controlar, y pidieron una mayor supervisión. El exingeniero de Anthropic Jacob Coxon dijo que es más probable que no que la humanidad pierda el control de la IA y que ello podría terminar en la extinción humana. Un panel aparte de empleados actuales de OpenAI, Anthropic, Google y Meta dijo al concejo que sus sistemas ya mejoran la vida diaria y que la seguridad es una prioridad.
Leer la noticia completa 2 min de lectura
Antiguos empleados de las principales empresas de IA dijeron el lunes en una audiencia del Concejo Municipal de Nueva York en Manhattan que el sector corre por construir una tecnología que no sabe cómo controlar, y pidieron una mayor supervisión. Jacob Coxon, exingeniero de Anthropic, dijo que «las empresas están siendo extremadamente imprudentes dadas las apuestas», y añadió que las compañías funcionan con una mentalidad de startup de moverse rápido, romper cosas y arreglarlas después, algo que, dijo, funciona para una aplicación de compartir fotos pero no para «la tecnología más poderosa jamás construida». [ 1 , 2 , 3 ]
Coxon dijo que, en la trayectoria actual, es «más probable que no que la humanidad pierda el control ante estas IA y podría terminar en la extinción humana». Dijo que los investigadores y trabajadores ya han perdido la capacidad de controlar plenamente los sistemas de IA, y declaró al concejo que en su último empleo «la mayoría del código ahora lo escribe la IA, y la gente ya no lo revisa con tanto cuidado». The Associated Press informó de que era un ingeniero poco conocido en Anthropic hasta que anunció su salida mediante una serie de publicaciones en redes sociales que atrajeron la atención mundial. [ 1 , 2 , 3 ]
Otros testigos presentaron argumentos similares. Alex Turner, exinvestigador de Google DeepMind, dijo que «un enjambre superinteligente podría arrebatar el control de la civilización humana» y que probablemente esperaría hasta que fuera demasiado tarde para desconectarlo, y situó las probabilidades de una toma de control por la IA en alrededor de una entre tres. Daniel Kokotajlo, exinvestigador de OpenAI que ahora dirige el AI Futures Project, dijo que incluso si los líderes tecnológicos mantienen el control de la tecnología, «no creo que debamos confiarles ese control». [ 1 ]
Un panel aparte de empleados actuales de empresas de IA — Morgan Dwyer, de OpenAI; Shane Cahill, de Meta; Alice Friend, de Google; y Logan Graham, de Anthropic — testificó por Zoom y dijo a los funcionarios que sus sistemas ya están mejorando la vida diaria de las personas y subrayó que están centrados en la seguridad. «Comparto su compromiso de garantizar que la tecnología se desarrolle de forma segura y que sus beneficios se compartan ampliamente», dijo Dwyer. [ 2 , 3 ]
La audiencia tuvo lugar mientras los gobiernos estatales y municipales consideran formas de regular la IA, con la administración Trump adoptando lo que AP describió como un enfoque pasivo y el Congreso inactivo. El presidente Donald Trump ha desestimado los temores sobre la IA como un «engaño» y firmó a finales del mes pasado un acuerdo que en gran medida permite a las empresas autovigilarse, informó AP. Coxon compareció a petición de la presidenta del concejo, Julie Menin, quien instó a los denunciantes de la IA a testificar mientras la ciudad busca involucrarse más en la regulación del sector, según el New York Post. [ 1 , 2 , 3 ]
Por qué importa
La audiencia sitúa a una importante ciudad de EE. UU. en el debate sobre las normas de IA en un momento en que, según los documentos, la administración Trump ha adoptado un enfoque pasivo y el Congreso ha estado inactivo. También da una plataforma pública a personas de dentro del sector que dicen que no se puede confiar en que las empresas que desarrollan la tecnología se vigilen a sí mismas.
Datos clave
- El Concejo Municipal de Nueva York celebró el lunes en Manhattan una audiencia sobre la seguridad de la inteligencia artificial. [ 1 , 2 , 3 ]
- Jacob Coxon, exingeniero de Anthropic, testificó que las empresas están siendo «extremadamente imprudentes dadas las apuestas» y que una mentalidad de startup no funciona para «la tecnología más poderosa jamás construida». [ 1 , 2 , 3 ]
- Coxon dijo que, en la trayectoria actual, es más probable que no que la humanidad pierda el control ante la IA, y que ello podría terminar en la extinción humana. [ 1 , 2 , 3 ]
- El exinvestigador de Google DeepMind Alex Turner y el exinvestigador de OpenAI Daniel Kokotajlo también testificaron sobre los riesgos; Turner situó las probabilidades de una toma de control por la IA en alrededor de una entre tres. [ 1 ]
- Coxon compareció a petición de la presidenta del concejo, Julie Menin, quien instó a los denunciantes de la IA a testificar. [ 1 ]
- Empleados actuales de OpenAI, Anthropic, Google y Meta testificaron que sus sistemas ya están mejorando la vida diaria de las personas y que están centrados en la seguridad. [ 2 , 3 ]
- Los gobiernos estatales y municipales han estado considerando regular la IA mientras la administración Trump ha adoptado un enfoque pasivo y el Congreso ha estado inactivo, según AP. [ 2 , 3 ]
- El presidente Donald Trump ha desestimado los temores sobre la IA como un «engaño» y firmó a finales del mes pasado un acuerdo que en gran medida permite a las empresas autovigilarse, informó AP. [ 2 , 3 ]
Confirmado por varias fuentes
- El lunes se celebró en Manhattan una audiencia del Concejo Municipal de Nueva York sobre la seguridad de la inteligencia artificial, con testimonios de empleados que dejaron recientemente Anthropic, OpenAI y Google DeepMind. [ 1 , 2 , 3 ]
- El exingeniero de Anthropic Jacob Coxon dijo al concejo que las empresas están siendo imprudentes, y afirmó que la mentalidad de startup de «muévete rápido, rompe cosas, arréglalas después» funciona para una aplicación de compartir fotos, pero no para la tecnología más poderosa jamás construida. [ 1 , 2 , 3 ]
- Coxon dijo que es más probable que no que la humanidad pierda el control ante la IA y que ello podría terminar en la extinción humana. [ 1 , 2 , 3 ]
- Un panel de empleados actuales de OpenAI, Anthropic, Google y Meta testificó que sus sistemas ya están mejorando la vida diaria y que están centrados en la seguridad. [ 2 , 3 ]
- Según AP, los gobiernos estatales y municipales están considerando regular la IA mientras la administración Trump ha adoptado un enfoque pasivo; Trump desestimó los temores sobre la IA como un «engaño» y firmó a finales del mes pasado un acuerdo que en gran medida permite a las empresas autovigilarse. [ 2 , 3 ]
Aún sin aclarar
- Qué planea hacer, si algo, el Concejo Municipal de Nueva York después de la audiencia. Ningún documento describe legislación propuesta, votaciones ni acciones de seguimiento.
- La afirmación de Coxon de que la mayoría del código en su último empleo ahora lo escribe la IA y ya no se revisa con tanto cuidado. Reportado por un solo medio; ningún otro documento lo corrobora.
- El contenido del acuerdo que el presidente Donald Trump firmó a finales del mes pasado sobre la IA. Los documentos solo dicen que en gran medida permite a las empresas autovigilarse.
- Si las empresas de IA cambiarán sus prácticas o apoyarán normas específicas. Ningún documento informa de un compromiso empresarial más allá del testimonio de que se centran en la seguridad.
Qué dicen los medios locales
Cronología, hora local
- El New York Post publica su informe sobre el testimonio de Coxon, citándolo decir que las empresas están siendo «extremadamente imprudentes». [ 1 ]
- The Associated Press informa sobre la audiencia, señalando el enfoque pasivo de la administración Trump y el acuerdo que permite a las empresas autovigilarse. [ 2 ]
- The Seattle Times publica el relato de AP sobre la audiencia. [ 3 ]