Informe: 46 eurodiputadas fueron blanco de pornografía deepfake con IA
En breve
Un informe del grupo de la sociedad civil alemana Agora Digital Transformation, citado por Politico, señala que 46 eurodiputadas han sido blanco de pornografía deepfake generada con IA —aproximadamente una de cada seis—, junto con cuatro eurodiputados. El Parlamento Europeo aprobó una enmienda que prohíbe las aplicaciones usadas para crear ese material, en vigor desde el 2 de diciembre, y 119 eurodiputados han instado a los líderes de la UE a aplicarla e investigar con rapidez si se usó Grok en X para crear deepfakes. La primera ministra italiana, Giorgia Meloni, que dice haber sido blanco de deepfakes, ha solicitado registrar su propia voz como marca de la UE.
Leer la noticia completa 2 min de lectura
Un informe del grupo de la sociedad civil alemán Agora Digital Transformation, citado por Politico, señala que 46 eurodiputadas han sido blanco de pornografía deepfake generada con IA —aproximadamente una de cada seis—. Cuatro eurodiputados también fueron víctimas, según el informe tal como lo describen Yonhap y Asia Economy. La pornografía deepfake se refiere a imágenes o videos sexualmente explícitos creados con IA sin el consentimiento de la persona. [ 1 , 2 ]
El informe señala que los políticos tienen especial probabilidad de ser blanco porque les resulta difícil mantener sus rostros e imágenes fuera de internet, según ambos medios. [ 1 , 2 ]
El Parlamento Europeo aprobó una enmienda que prohíbe las aplicaciones usadas para crear pornografía deepfake, y la medida entra en vigor en toda la UE el 2 de diciembre, según ambos documentos. El 30 de septiembre, 119 eurodiputados enviaron una carta a la presidenta de la Comisión Europea, Ursula von der Leyen, y a otros líderes de la UE pidiéndoles que apliquen la prohibición de manera efectiva y completen una investigación rápida sobre las afirmaciones de que el chatbot Grok en X podría haberse usado para crear deepfakes. [ 1 , 2 ]
El grupo de la sociedad civil que elaboró el informe sostiene que la prohibición de aplicaciones solo será efectiva si también se responsabiliza a los procesadores de pagos y a los registradores de dominios, y sugiere considerar la exigencia de que los motores de búsqueda eliminen de sus resultados los sitios que generan deepfakes. [ 1 ]
Por separado, la primera ministra italiana, Giorgia Meloni, ha solicitado a la Oficina de Propiedad Intelectual de la UE registrar su voz como marca, presentando un clip de unos cuatro segundos en el que dice «Io sono Giorgia», informó Asia Economy, citando a ABC News y La Repubblica. La solicitud es una respuesta a la clonación no autorizada de voz con IA; medios locales dijeron que el registro, incluso si se aprueba, no bloquearía automáticamente la imitación de su voz, pero le daría una herramienta legal adicional contra el uso no autorizado. [ 2 ]
Meloni ha sido blanco de deepfakes varias veces, según Asia Economy. En mayo, después de que circularan de nuevo imágenes falsas de ella en línea, dijo que los deepfakes pueden engañar, manipular y perjudicar a cualquiera, pidió verificar el contenido antes de compartirlo y afirmó que «yo puedo defenderme, pero muchas personas no pueden». El medio también señaló que el actor Matthew McConaughey ha registrado su voz y sus movimientos como marcas y que Scarlett Johansson ha objetado públicamente una voz de IA que dijo era inquietantemente similar a la suya. [ 2 ]
Por qué importa
Los hallazgos ponen cifras a la exposición de los cargos electos a imágenes sexuales generadas con IA, y la prohibición de aplicaciones del Parlamento Europeo desde el 2 de diciembre será una primera prueba de si las normas de la UE pueden aplicarse. La carta de los eurodiputados amplía la presión a los operadores de plataformas y chatbots, mientras que la solicitud de marca de Meloni muestra a víctimas recurriendo a herramientas legales propias. Los documentos no dicen cuántos eurodiputados en total están afectados, solo la proporción y los recuentos reportados.
Datos clave
- Cuarenta y seis eurodiputadas fueron blanco de pornografía deepfake generada con IA, aproximadamente una de cada seis, según un informe del grupo de la sociedad civil alemán Agora Digital Transformation citado por Politico. [ 1 , 2 ]
- Cuatro eurodiputados también fueron víctimas, según el informe. [ 1 , 2 ]
- El Parlamento Europeo aprobó una enmienda que prohíbe las aplicaciones usadas para crear pornografía deepfake; la medida entra en vigor en toda la UE el 2 de diciembre. [ 1 , 2 ]
- El 30 de septiembre, 119 eurodiputados enviaron una carta a la presidenta de la Comisión Europea, Ursula von der Leyen, y a otros líderes de la UE pidiéndoles que apliquen la prohibición de manera efectiva e investiguen con rapidez si se usó Grok en X para generar deepfakes. [ 1 , 2 ]
- El grupo de la sociedad civil afirmó que la prohibición solo funcionará si también se responsabiliza a los procesadores de pagos y a los registradores de dominios, y sugirió obligar a los motores de búsqueda a excluir los sitios que generan deepfakes. [ 1 ]
- La primera ministra italiana, Giorgia Meloni, solicitó a la Oficina de Propiedad Intelectual de la UE registrar su voz como marca, presentando un clip de unos cuatro segundos en el que dice «Io sono Giorgia», según ABC News y La Repubblica. [ 2 ]
- Meloni dijo en mayo que los deepfakes pueden engañar y perjudicar a cualquiera, y que la gente debería verificar el contenido antes de compartirlo, añadiendo que ella puede defenderse pero muchas otras personas no. [ 2 ]
Confirmado por varias fuentes
- Un informe de Agora Digital Transformation, citado por Politico, encontró que 46 eurodiputadas y cuatro eurodiputados fueron blanco de pornografía deepfake generada con IA. [ 1 , 2 ]
- El Parlamento Europeo aprobó una enmienda que prohíbe las aplicaciones usadas para crear pornografía deepfake, en vigor el 2 de diciembre. [ 1 , 2 ]
- Unos 119 eurodiputados enviaron una carta el 30 de septiembre a los líderes de la UE instando a una aplicación efectiva de la prohibición y a una investigación rápida sobre si se usó Grok en X para crear deepfakes. [ 1 , 2 ]
- El informe señala que los políticos son blancos fáciles de deepfakes porque sus rostros e imágenes se publican ampliamente en internet. [ 1 , 2 ]
Aún sin aclarar
- Si el chatbot Grok en X se usó realmente para crear deepfakes. Ambos documentos solo informan que los eurodiputados pidieron una investigación sobre la posibilidad; no se afirma ninguna conclusión.
- El resultado de la solicitud de marca de Giorgia Meloni para su voz. Reportado por un medio, que dice que la EUIPO ha recibido la solicitud; no se menciona ninguna decisión, y no está claro que el registro detendría automáticamente la imitación de voz con IA.
- Los nombres de las 46 eurodiputadas y los cuatro eurodiputados afectados, y el número total de eurodiputados usado para calcular la proporción de una de cada seis. Los documentos dan recuentos y una proporción pero ningún nombre y ningún total.
- Si se adoptarán las propuestas del grupo de la sociedad civil sobre procesadores de pagos, registradores de dominios y motores de búsqueda. Solo un documento las reporta, y se describen como recomendaciones.
Qué dicen los medios locales
Cronología, hora local
- La primera ministra italiana, Giorgia Meloni, dice que los deepfakes pueden engañar, manipular y perjudicar a cualquiera y urge verificar el contenido en línea antes de compartirlo, después de que circularan de nuevo imágenes falsas de ella, añadiendo que ella puede defenderse pero muchos no pueden. [ 2 ]
- 119 eurodiputados envían una carta a la presidenta de la Comisión Europea, Ursula von der Leyen, y a otros líderes de la UE pidiendo una aplicación efectiva de la prohibición de aplicaciones deepfake y una investigación rápida sobre si se usó Grok en X para crear deepfakes. [ 1 , 2 ]
- Politico informa sobre los hallazgos de Agora Digital Transformation, y Meloni presenta su solicitud de marca de voz ante la Oficina de Propiedad Intelectual de la UE, según ABC News y La Repubblica. [ 1 , 2 ]
- Yonhap publica su informe sobre los hallazgos de deepfakes y la respuesta de la UE. [ 1 ]
- Asia Economy publica su informe sobre la solicitud de marca de Meloni y los hallazgos de deepfakes. [ 2 ]
- Entra en vigor la prohibición en toda la UE de las aplicaciones usadas para crear pornografía deepfake. [ 1 , 2 ]