|
Можно ли использовать ИИ для клонирования голоса
|
|
|
|
С середины февраля члены Конгресса получили более 119 000 звонков с требованием принять более строгие законы о контроле над оружием. Но это не типичные звонки, сделанные избирателями, выражающими свою обеспокоенность. Благодаря использованию искусственного интеллекта эти звонки, по—видимому, делаются из могилы - детьми, которые были убиты непосредственно в результате насилия с применением огнестрельного оружия. "В 2018 году, когда мне было 15 лет, я был убит из незащищенного пистолета в доме моего друга", - говорится в сообщении, опубликованном голосом уроженца Коннектикута Итана Сонга. "Мои родители воссоздали мой голос с помощью искусственного интеллекта, чтобы я, наконец, мог попросить вас сделать что-нибудь для защиты детей". Эти сообщения отправляются с помощью нового веб-сайта под названием Shotline. Платформа родилась в результате партнерства между Change the Ref и March For Our Lives, двумя организациями, которые были созданы в ответ на стрельбу в средней школе Марджори Стоунман Дуглас в Паркленде, штат Флорида, в 2018 году.
|
|
|
|
Для реализации проекта группы сотрудничают с ElevenLabs, компанией по искусственному интеллекту, которая создает синтетические голоса с использованием записанной речи. Их цель - завалить Конгресс этими сообщениями, чтобы заставить членов более серьезно относиться к вопросам, связанным с контролем над оружием. В несколько кликов пользователи сайта могут отправлять эти голосовые сообщения своим представителям и сенаторам. Рупал Патель, профессор с Северо-Востока, которая посвятила свою карьеру исследованию того, как можно использовать технологии, чтобы вернуть людям их голоса, считает, что это хорошее применение технологии. "Это делает все реальным", - говорит Патель. "Это не обязательно о человеке. Это об истории, и, добавив к ней голос, мы можем увидеть, как они звучали, какими были их мечты. Мы ассоциируем это с голосом, с этой близостью". Но возник другой вопрос: правильно ли воссоздавать голоса умерших, даже если это делается ради благой цели? Патель говорит, что, поскольку голоса детей создаются их родителями, причин для беспокойства не так уж много.
|
|
|
"Все дело в согласии", - говорит она. "Что делает это этичным и допустимым, так это то, что на это дали согласие родители ребенка. Они используют искусственный голос как способ передать сообщение. Они имеют на это право, потому что этот ребенок не достиг совершеннолетия. Родители по-прежнему являются законными опекунами. Любое другое лицо, которое использует это для рассылки плохих сообщений, не имеет согласия этого лица или опекуна." Тем не менее, в настоящее время нет законов, защищающих людей от воссоздания их голосов с помощью искусственного интеллекта, отмечает она. "Я не думаю, что это черно-белая линия", - говорит Патель. "Мы должны действительно думать об этих вещах в гораздо более тонком мире. Если они использовали это для совершения мошенничества, это одно. Если они используют это творчески, чтобы донести сообщение, это другое дело". Она сравнила технологию с Photoshop, который люди постоянно используют для изменения изображений. "Это непрерывная технология, и мы должны относиться к ней именно так", - говорит она.
|
|
|
|
"Как мы используем это и оцениваем в каждом конкретном случае? Это может показаться неудовлетворительным ответом для некоторых людей, но мы не можем просто отбросить это как неэтичное". Джеймс Алан Фокс, профессор криминологии, права и государственной политики Северо-Восточного университета, говорит, что понимает настроения, стоящие за проектом, и признает боль и гнев родителей в связи с потерей своего ребенка, но он не думает, что проект будет особенно эффективным. "Будь то родители из Sandy Hook Promise, Parkland или других случаев, я понимаю их попытки убедить Конгресс и людей в Вашингтоне принять превентивные меры, которые не позволят другим родителям оказаться на их месте, и родители должны говорить за своих сыновей и дочерей, и они это сделали", - говорит он. "Но если убитый ребенок будет говорить сам за себя искусственным голосом, я не думаю, что это поможет", - добавляет он.
|
|
|
|
"На самом деле, и, возможно, это только мне кажется, но когда я слушал аудио, это заставило меня больше сосредоточиться на качестве голоса, чем на качестве сообщения. Это надуманно и отвлекает от сути сообщения". Фокс говорит, что с ростом числа глубоких подделок важно, чтобы мы были осторожны в том, как мы используем эту технологию. "Я согласен с ИИ, например, при создании новой песни Beatles, но это в развлекательных целях", - говорит он. "Я думаю, что именно здесь я провожу черту". Он говорит, что было бы более действенно, если бы родители этих жертв продолжали выступать, используя свои собственные голоса. Он указывает на некоторые успехи, которых добились родители, в том числе на то, чтобы в 2022 году Конгресс принял первый за десятилетия законопроект о контроле над оружием. "То, что могут сказать родители, очень важно и окажет большее влияние, чем голос из могилы, созданный искусственным интеллектом", - говорит он.
|
|
|
|
Источник
|
