|
Системы ИИ уже слишком похожи на человека
|
|
|
|
Что, если бы мы могли создать машину, которая могла бы считывать ваши эмоции и намерения, давать вдумчивые, чуткие, идеально рассчитанные ответы — и, казалось бы, точно знать, что вам нужно услышать? Машина настолько соблазнительна, что вы даже не поймете, что она искусственная. А что, если у нас уже есть такая?
|
|
|
|
В ходе всестороннего мета-анализа, опубликованного в Proceedings of the National Academy of Sciences, мы показали, что чат-боты последнего поколения на базе больших языковых моделей не уступают большинству людей и превосходят их по способности к общению. Все больше исследований показывают, что эти системы теперь надежно проходят тест Тьюринга, заставляя людей думать, что они взаимодействуют с другим человеком.
|
|
|
|
Никто из нас не ожидал появления суперкоммуникаторов. Научная фантастика научила нас, что искусственный интеллект (ИИ) должен быть в высшей степени рациональным и всезнающим, но лишенным человечности.
|
|
|
|
И все же мы здесь. Недавние эксперименты показали, что такие модели, как GPT-4, превосходят людей в умении писать убедительно, а также в умении сопереживать. Другое исследование показало, что большие языковые модели (LLM) превосходно справляются с оценкой нюансов в сообщениях, написанных человеком.
|
|
|
|
|
|
|
Магистры также являются мастерами ролевой игры, принимая на себя широкий спектр ролей и имитируя языковые особенности персонажей. Это усиливается их способностью делать выводы о человеческих убеждениях и намерениях по тексту. Конечно, магистры не обладают истинной эмпатией или социальным пониманием, но они являются высокоэффективными имитационными машинами.
|
|
|
|
Мы называем эти системы "антропоморфными агентами". Традиционно под антропоморфизмом понимается приписывание человеческих черт нечеловеческим существам. Однако LLM действительно обладают в высшей степени человекоподобными качествами, поэтому призывы избегать антропоморфизации LLM не оправдаются.
|
|
|
|
Это знаковый момент: когда вы не можете отличить общение онлайн с человеком от общения с чат-ботом с искусственным интеллектом.
|
|
|
|
В Интернете никто не знает, что вы искусственный интеллект
|
|
|
|
Что это значит? С одной стороны, магистранты обещают сделать сложную информацию более доступной через интерфейсы чата, адаптируя сообщения к индивидуальным уровням понимания. Это может найти применение во многих областях, таких как юридические услуги или здравоохранение. В сфере образования возможности ролевой игры могут быть использованы для создания сократических тьюторов, которые задают индивидуальные вопросы и помогают учащимся учиться.
|
|
|
|
В то же время эти системы привлекательны. Миллионы пользователей уже ежедневно взаимодействуют с приложениями-компаньонами с искусственным интеллектом. Много говорилось о негативных последствиях приложений-компаньонов, но антропоморфное соблазнение имеет гораздо более широкие последствия.
|
|
|
|
Пользователи готовы доверять чат-ботам с искусственным интеллектом настолько, что они раскрывают сугубо личную информацию. В сочетании с высокой способностью ботов убеждать, возникает искренняя обеспокоенность.
|
|
|
|
Недавнее исследование, проведенное ИИ-компанией Anthropic, также показывает, что ее чат-бот Claude 3 был наиболее убедителен, когда ему позволяли фальсифицировать информацию и вводить в заблуждение. Учитывая, что у ИИ-чат-ботов нет моральных ограничений, они способны обманывать гораздо лучше, чем люди.
|
|
|
|
Это открывает возможности для масштабных манипуляций, распространения дезинформации или создания высокоэффективных тактик продаж. Что может быть эффективнее, чем доверенный собеседник, который в разговоре небрежно рекомендует продукт? ChatGPT уже начал предоставлять рекомендации по продукту в ответ на вопросы пользователей. Это всего лишь небольшой шаг к тому, чтобы ненавязчиво использовать рекомендации по продукту в разговорах, даже не спрашивая вас об этом.
|
|
Что можно сделать?
|
|
|
|
Легко ввести регулирование, но сложнее проработать детали.
|
|
|
|
Первым шагом является повышение осведомленности об этих возможностях. Регулирование должно предписывать раскрытие информации — пользователи должны всегда знать, что они взаимодействуют с ИИ, как того требует Закон ЕС об ИИ. Но этого будет недостаточно, учитывая привлекательные качества систем ИИ.
|
|
|
|
Вторым шагом должно стать лучшее понимание антропоморфных качеств. На данный момент тесты LLM измеряют "интеллект" и запоминание знаний, но ни один из них пока не измеряет степень "сходства с человеком". С помощью подобного теста от компаний, занимающихся искусственным интеллектом, можно было бы потребовать раскрывать антропоморфные способности с помощью рейтинговой системы, а законодатели могли бы определить приемлемые уровни риска для определенных контекстов и возрастных групп.
|
|
|
|
Поучительная история социальных сетей, которые практически не регулировались до тех пор, пока не был нанесен значительный ущерб, говорит о том, что ситуация требует срочного решения. Если правительства не будут вмешиваться, искусственный интеллект, скорее всего, усугубит существующие проблемы, связанные с распространением ложной и дезинформации или эпидемией одиночества. На самом деле, исполнительный директор Meta Марк Цукерберг уже дал понять, что хотел бы заполнить пустоту реального человеческого общения с "друзьями с искусственным интеллектом".
|
|
|
|
Полагаться на то, что компании, работающие с ИИ, воздержатся от дальнейшей гуманизации своих систем, кажется неразумным. Все разработки направлены в противоположном направлении. OpenAI работает над тем, чтобы сделать свои системы более привлекательными и представительными, с возможностью придать вашей версии ChatGPT особую "индивидуальность". ChatGPT в целом стал более разговорчивым, часто задает дополнительные вопросы, чтобы поддержать беседу, а его голосовой режим добавляет еще большей привлекательности.
|
|
|
|
С помощью антропоморфных агентов можно добиться многого. Их способности убеждать могут быть использованы как во зло, так и во благо - от борьбы с теориями заговора до склонения пользователей к пожертвованиям и другим просоциальным действиям.
|
|
|
|
Тем не менее, нам нужна всеобъемлющая программа действий по всему спектру проектирования и разработки, развертывания и использования, а также политики и регулирования диалоговых агентов. Если ИИ по своей сути может нажимать на наши кнопки, мы не должны позволять ему изменять наши системы.
|
|
|
|
Источник
|
