El ministerio de seguridad chino alerta de clonación de voz con breves respuestas
En breve
El Ministerio de Seguridad del Estado de China advirtió de que delincuentes podrían utilizar unos segundos de una respuesta telefónica para clonar la voz con IA y suplantar identidades, según informes del 11 de octubre. Destacó un consejo que circula en internet de permanecer en silencio tres segundos al contestar llamadas desconocidas y colgar si la otra parte también permanece en silencio.
Leer la noticia completa 2 min de lectura
El Ministerio de Seguridad del Estado de China advirtió de que delincuentes podrían utilizar unos segundos de habla para clonar la voz de una persona con IA y suplantarla para cometer fraudes, según informes publicados el 11 de octubre. Jiemian dijo que la cuenta del ministerio en WeChat abordó un consejo que circula en plataformas sociales de permanecer en silencio tres segundos al contestar llamadas desconocidas. La advertencia dijo que quienes llaman podrían guardar silencio deliberadamente para provocar una respuesta, como un saludo. Aconsejó colgar si la otra parte continuaba en silencio. Los informes proporcionados no ofrecen resultados de pruebas de ese consejo. [ 2 , 3 ]
El mensaje del ministerio describió riesgos más amplios para la información biométrica, incluidas voces, rostros, iris y forma de caminar. Dijo que la IA podía extraer características biométricas estandarizadas de imágenes y audio disponibles públicamente, y que algunas aplicaciones o plataformas ilegales podían recopilar datos faciales y de voz de forma excesiva bajo el pretexto de verificación facial. Advirtió de que una fotografía y un breve audio podían utilizarse para crear una imitación digital destinada a solicitudes fraudulentas de préstamos o rumores en internet. El mensaje también describió la posibilidad de combinar información biométrica y genética para identificar personas o inferir relaciones familiares, y alertó de posibles usos indebidos por servicios de inteligencia extranjeros. [ 2 ]
El mensaje instó a las empresas de IA y plataformas de internet a incorporar revisiones de cumplimiento durante la recopilación de datos, el entrenamiento de modelos y los lanzamientos de productos, comprobando la autorización y evitando la recopilación innecesaria o el uso no autorizado. Pidió a los usuarios considerar la finalidad, el alcance y las salvaguardias de los permisos biométricos y evitar proporcionar información innecesariamente. Xinhua y Jiemian citaron las leyes chinas de seguridad de datos, ciberseguridad e información personal como salvaguardias. IT Home también informó de una declaración del Tribunal Popular Supremo de que la adquisición, venta o provisión ilícita de información personal, como fotografías faciales o vídeos, puede constituir un delito en circunstancias graves. [ 1 , 2 , 3 ]
Por qué importa
El mensaje del ministerio describe riesgos para los datos biométricos, incluidas voces e imágenes faciales. Insta a las empresas de IA y plataformas a comprobar la autorización de los datos, y a los usuarios a conceder permisos biométricos con cautela.
Datos clave
- El ministerio advirtió de que delincuentes podrían permanecer en silencio durante llamadas para inducir a los destinatarios a proporcionar una breve muestra de voz. [ 2 , 3 ]
- La advertencia describió la recopilación biométrica excesiva, la suplantación mediante falsificaciones profundas y la combinación de datos para inferir información privada. [ 1 , 2 ]
- El ministerio instó a las empresas a integrar controles de cumplimiento en la recopilación de datos, el entrenamiento de modelos y los lanzamientos de productos. [ 2 ]
Confirmado por varias fuentes
Aún sin aclarar
- La eficacia del consejo de guardar tres segundos de silencio para prevenir fraudes de clonación de voz. Los informes proporcionados repiten el consejo, pero no ofrecen pruebas ni cifras de eficacia.
Qué dicen los medios locales
Cronología, hora local
- El informe de Jiemian del 11 de octubre transmitió la advertencia del Ministerio de Seguridad del Estado en WeChat. [ 2 ]