|
Искусственный интеллект может имитировать умерших
|
|
|
|
Искусственный интеллект проникает в одну из самых интимных областей человеческой жизни: горе. Инструменты, способные имитировать голос, стиль письма или манеру разговора умершего человека, перестали быть научной фантастикой. Это новые продукты и технологии, которые обещают утешение некоторым скорбящим, но при этом поднимают глубокие этические, психологические и культурные вопросы.
|
|
|
|
В Школе науки о данных Университета Вирджинии Рене Каммингс изучает, как этика данных пересекается с глубоко человеческим опытом. Она рассматривает технологии, основанные на искусственном интеллекте, как яркий пример того, как инновации могут изменить социальные нормы, касающиеся памяти, утраты и идентичности.
|
|
|
|
Недавно Каммингс обсуждала монетизацию интимности в искусственном интеллекте на Всемирном экономическом форуме в Давосе, Швейцария, где мировые лидеры рассматривали, как ИИ меняет самые личные аспекты человеческой жизни.
|
|
|
|
«Мы знаем, что ИИ используется для создания интимных переживаний», — сказала Каммингс. «Эти системы способны воспроизводить модели общения из текстовых сообщений, электронных писем, голосовых записей и социальных сетей. Для некоторых людей это больше похоже на продолжение отношений, чем на воспоминание о них».
|
|
|
|
Часто называемые «роботами скорби» или цифровыми мемориальными агентами, эти системы обучаются на основе цифрового следа человека. Они позволяют пользователям задавать вопросы, получать смоделированные ответы и взаимодействовать с приблизительным образом человека, который умер. Для некоторых семей, переживающих потерю, это привлекательно сразу. Знакомый тон или фраза могут помочь обрести опору в это дестабилизирующее время.
|
|
|
|
|
|
|
Психологи говорят, что скорбь включает в себя постепенное обучение примирению эмоционального присутствия любимого человека с реальностью его отсутствия. Интерактивный ИИ усложняет этот процесс. Вводя реагирующее цифровое присутствие, эти системы размывают границу между памятью и симуляцией.
|
|
|
|
Кимберли Д. Аквавива, профессор сестринского дела имени Бетти Норман Норрис в Университете Вирджинии, предупреждает, что долгосрочное культурное влияние остается неопределенным.
|
|
|
|
«Поскольку технологии искусственного интеллекта, связанные с переживанием горя, такие как „Ты, только виртуальный“, относительно новы, трудно предсказать, в какой степени они могут изменить социальные нормы и практики переживания горя», — сказала Аквавива.
|
|
|
|
«Однако мне несложно представить, что эти технологии вызовут интерес к юридически обязывающим предварительным распоряжениям относительно посмертного использования нашего цифрового образа или голоса».
|
|
|
|
Она недвусмысленно выражает свои собственные пожелания.
|
|
|
|
«Лично я была бы категорически против того, чтобы мои близкие создавали или взаимодействовали с симуляцией меня в виде ИИ после моей смерти», — сказала она. «Симуляция меня в виде ИИ не была бы мной. Это была бы просто коммерциализированная иллюзия, которую корпорация, стремящаяся получить прибыль, подсовывает моим скорбящим близким».
|
|
|
|
Исследователи обнаружили, что некоторые пользователи испытывают утешение и эмоциональное подтверждение, особенно когда они чувствуют социальное давление, заставляющее их двигаться дальше быстрее, чем они к этому готовы. В то же время эксперты предупреждают, что иммерсивные симуляции могут усилить отрицание или продлить стресс у уязвимых людей. Ранние исследования подчеркивают, что результаты сильно различаются в зависимости от времени, личности и контекста.
|
|
|
|
Аквавива подчеркивает, что может оказаться под угрозой, если технологии заменят человеческое общение. «Фундаментальный аспект человеческого опыта — это глубокая любовь к кому-то», — сказала она. «Однако неразрывно с глубокой любовью к кому-то связана скорбь по поводу смерти этого человека».
|
|
|
|
Размышляя о своей личной утрате, Аквавива сказала, что взаимодействие с ИИ-симуляцией ее покойной жены вместо скорби по ее смерти затруднило бы адаптацию к реальности этой потери.
|
|
|
|
«Что еще важнее», — сказала она, — «это помешало бы мне восстановить свою жизнь и свою личность после ее смерти. Большая часть этого процесса восстановления включала в себя поддержку моей семьи и друзей».
|
|
|
|
Каммингс рассматривает этот вопрос не как простой вопрос пользы или вреда, а как вопрос ответственности. Данные, необходимые для создания цифровой копии, часто включают в себя годы частной переписки и поведенческие следы. Это поднимает сложные вопросы о согласии и праве собственности после смерти.
|
|
|
|
«Ваши данные — это ваша жизнь», — сказала она. «Если у кого-то есть доступ к этим данным, он может воссоздать взаимодействия даже после вашей смерти. Мы должны задаться вопросом, кому принадлежит эта информация, как она регулируется и какие меры защиты существуют для семей и отдельных лиц».
|
|
|
|
Эти опасения распространяются и на экономику скорби. Компании, предлагающие услуги по организации поминок с использованием ИИ, работают на быстро расширяющемся цифровом рынке, где эмоциональная уязвимость пересекается с монетизированными продуктами. Ученые, изучающие этику технологий, предупреждают, что дизайн, ориентированный на вовлеченность, может непреднамеренно способствовать зависимости, а не исцелению.
|
|
|
|
Для обоих ученых вопрос заключается не просто в том, будет ли ИИ формировать то, как люди скорбят, а в том, насколько осознанно общество выбирает реагировать.
|
|
|
|
«Сама технология не решает, как мы скорбим, — сказала Каммингс. — Это делают люди. Наши ценности, наша этика и наше чувство ответственности должны определять, как используются эти инструменты».
|
|
|
|
По мере развития ИИ будут развиваться и дискуссии о том, что значит помнить, чтить память и отпускать. Эти дискуссии, по словам исследователей, касаются как человечества, так и технологий.
|
|
|
|
Источник
|
