|
Хакеры могут использовать ИИ для копирования голоса
|
|
|
|
Наши голоса так же уникальны, как и отпечатки пальцев. Что бы вы почувствовали, если бы ваш голос был клонирован? В последние месяцы появился новый тип дипфейка, известный как клонирование голоса, при котором хакеры используют искусственный интеллект (ИИ) для имитации вашего голоса. Известные лица, в том числе Стивен Фрай, Садик Хан и Джо Байден, уже стали жертвами клонирования голоса, а одного неназванного генерального директора даже обманом заставили перевести 243 000 долларов мошеннику после получения фальшивого телефонного звонка. Но как это работает и насколько убедительно? Чтобы выяснить это, я позволил профессиональному хакеру клонировать мой голос – и это привело к ужасающим результатам. Клонирование голоса — это метод искусственного интеллекта, который позволяет хакерам делать аудиозапись кого-либо, обучать инструмент искусственного интеллекта его голосу и воссоздавать его. В беседе с MailOnline Дэйн Шерретс, архитектор решений в HackerOne, объяснил: «Изначально это использовалось для создания аудиокниг и для помощи людям, потерявшим голос по медицинским причинам. «Но сегодня этим все чаще пользуется Голливуд и, к сожалению, мошенники».
|
|
|
|
Когда эта технология впервые появилась еще в конце 1990-х годов, ее использование было ограничено экспертами с глубокими знаниями в области ИИ. Однако, по словам г-на Шерретса, с годами технология стала более доступной и доступной до такой степени, что ее может использовать практически каждый. «Клонировать голос может человек с очень ограниченным опытом», — сказал он. «С некоторыми имеющимися инструментами, которые являются бесплатными и имеют открытый исходный код, это занимает менее пяти минут». Чтобы клонировать мой голос, мистеру Шерретсу понадобился всего лишь пятиминутный отрывок моего разговора. Я решил записать, как читаю историю Daily Mail, хотя г-н Шерретс говорит, что большинство хакеров могут просто извлечь звук из быстрого телефонного звонка или даже из видео, опубликованного в социальных сетях. «Это можно сделать во время разговора, если чем-то поделились в социальных сетях или даже если кто-то участвует в подкасте. На самом деле это просто вещи, которые мы загружаем или записываем каждый день», — сказал он.
|
|
|
Как только я отправил мистеру Шерретсу клип, он просто загрузил его в инструмент (который он решил не называть), который затем можно было «обучить» на моем голосе. «Как только это было сделано, я смог печатать или даже говорить прямо в инструмент, и он выдавал то, что я хотел, чтобы сообщение было вашим голосом», — сказал он. «Что действительно сумасшедшего в существующих сейчас инструментах, так это то, что я могу добавлять дополнительные интонации, паузы и другие вещи, которые делают речь более естественной, что делает ее намного более убедительной в сценарии мошенничества». Несмотря на отсутствие каких-либо пауз или дополнительных интонаций, первый отрывок моего голосового клона, созданного мистером Шерретсом, был поразительно убедительным. Голос робота идеально передал мой гибридный американо-шотландский акцент, когда он сказал: «Привет, мам, это Шивали». Я потерял свою банковскую карту и мне нужно перевести деньги. Не могли бы вы отправить немного на адрес, с которого вам только что пришло сообщение?' Однако жуткость была поднята на ступеньку выше в следующем ролике, в котором Шерретс добавил паузы. «Ближе к концу вы можете услышать длинную паузу, а затем вздох, и это делает звук более естественным», — объяснил профессиональный хакер.
|
|
|
|
Хотя мой опыт клонирования голоса, к счастью, был всего лишь демонстрацией, г-н Шерретс подчеркивает некоторые серьезные опасности этой технологии. «Некоторым людям поступали фальшивые звонки о похищении, когда их «ребенок» звонил им и говорил: «Меня похитили, мне нужны миллионы долларов, иначе они меня не освободят», и ребенок выглядит очень расстроенным», - сказал он. «Сегодня мы все чаще наблюдаем, как люди пытаются предпринимать более целенаправленные попытки социальной инженерии против компаний и организаций. «Я использовал ту же технологию, чтобы клонировать голос моего генерального директора. «Генеральные директора часто появляются на публике, поэтому очень легко получить высококачественную аудиозапись их голоса и клонировать ее. «Наличие голоса генерального директора значительно упрощает получение быстрого пароля или доступа к системе. Компании и организации должны осознавать этот риск». К счастью, говорит г-н Шерретс, есть несколько ключевых признаков, указывающих на то, что голос является клоном. «Есть ключевые признаки», — сказал он MailOnline. «Есть паузы, проблемы, когда это звучит не так естественно, и на заднем плане может быть то, что вы называете «артефактами». «Например, если голос был клонирован в переполненной комнате и там болтает много других людей, то при использовании этого голосового клона вы услышите какой-то мусор на заднем плане».
|
|
|
|
Однако по мере развития технологий обнаружить эти признаки будет сложнее. «Люди должны знать об этой технологии и постоянно с подозрением относиться ко всему, что требует от них срочных действий — часто это тревожный сигнал», — пояснил он. «Они должны быстро задавать вопросы, которые, возможно, на самом деле знает только реальный человек, и не бояться пытаться проверить ситуацию, прежде чем предпринимать какие-либо действия». Г-н Шерретс рекомендует иметь «стоп-слово» перед семьей и друзьями. «Если вы действительно находитесь в критической ситуации, вы можете сказать это стоп-слово, и они сразу поймут, что это действительно вы», — сказал он. Наконец, эксперт советует осознавать свой цифровой след и следить за объемом информации, которую вы загружаете в Интернет. «Каждый раз, когда я загружаю сейчас, это расширяет мою зону аудиоатак и может быть использовано для обучения ИИ позже», — добавил он. «При этом каждому придется пойти на компромисс, но об этом следует знать: ваша аудиозапись, которая витает в воздухе, может быть использована против вас».
|
|
|
|
Источник
|
