Минбезопасности Китая предупредило о клонировании голоса ИИ по коротким ответам
Коротко
Министерство государственной безопасности Китая предупредило, что преступники могут использовать несколько секунд ответа по телефону для клонирования голоса ИИ и выдачи себя за другого человека, согласно сообщениям от 11 октября. Оно выделило распространяемый в интернете совет молчать три секунды при ответе на незнакомые звонки и завершать звонок, если другая сторона также молчит.
Читать полностью 1 мин чтения
Министерство государственной безопасности Китая предупредило, что преступники могут использовать несколько секунд речи для клонирования голоса человека с помощью ИИ и выдачи себя за него для мошенничества, согласно сообщениям, опубликованным 11 октября. Jiemian сообщила, что аккаунт министерства в WeChat обсуждал распространяемый в социальных платформах совет молчать три секунды при ответе на незнакомые звонки. В предупреждении говорилось, что звонящие могут намеренно молчать, чтобы вызвать ответ, например приветствие. Оно советовало завершать звонок, если другая сторона продолжает молчать. Предоставленные сообщения не содержат результатов проверки этого совета. [ 2 , 3 ]
Сообщение министерства описывало более широкие риски для биометрической информации, включая голоса, лица, радужные оболочки и походку. Оно утверждало, что ИИ может извлекать стандартизированные биометрические признаки из общедоступных изображений и аудио и что некоторые незаконные приложения или платформы могут чрезмерно собирать данные лиц и голосов под видом проверки лица. Оно предупреждало, что фотография и короткое аудио могут использоваться для создания цифрового двойника для мошеннических просьб о займах или интернет-слухов. Сообщение также описывало возможность объединения биометрической и генетической информации для идентификации людей или определения родства и предупреждало о потенциальном злоупотреблении иностранными разведслужбами. [ 2 ]
Сообщение призывало компании ИИ и интернет-платформы включать проверки соблюдения требований во весь процесс сбора данных, обучения моделей и запуска продуктов, проверяя разрешения и избегая ненужного сбора или неразрешенного использования. Оно призывало пользователей учитывать цель, объем и меры защиты биометрических разрешений и избегать предоставления информации без необходимости. Синьхуа и Jiemian сослались на китайские законы о безопасности данных, кибербезопасности и персональной информации как на меры защиты. IT Home также передала заявление Верховного народного суда, что незаконное получение, продажа или предоставление персональной информации, например фотографий лиц или видео, может составлять преступление при серьезных обстоятельствах. [ 1 , 2 , 3 ]
Почему это важно
Сообщение министерства описывает риски для биометрических данных, включая голоса и изображения лиц. Оно призывает компании ИИ и платформы проверять разрешение на использование данных, а пользователей — осторожно предоставлять биометрические разрешения.
Ключевые факты
- Министерство предупредило, что преступники могут молчать во время звонков, чтобы побудить адресата дать короткий образец голоса. [ 2 , 3 ]
- Предупреждение описывает избыточный сбор биометрии, имитацию личности с помощью дипфейков и объединение данных для вывода частной информации. [ 1 , 2 ]
- Министерство призвало фирмы включать проверки соблюдения требований в сбор данных, обучение моделей и запуск продуктов. [ 2 ]
Подтверждено несколькими источниками
Пока неясно
- Насколько эффективен совет молчать три секунды для предотвращения мошенничества с клонированием голоса. Предоставленные сообщения повторяют совет, но не содержат испытаний эффективности или показателей.
Что пишут местные СМИ
Хронология, местное время
- Сообщение Jiemian от 11 октября передало предупреждение Министерства государственной безопасности в WeChat. [ 2 ]