|
Аргументы ИИ изменили мнение о спорных острых вопросах
|
|
|
|
Внезапно мир загудел от болтовни о чат-ботах. Агенты с искусственным интеллектом, такие как ChatGPT, показали себя замечательно способными общаться в очень похожей на человека манере. Последствия простираются от классной комнаты до Капитолийского холма. ChatGPT, например, недавно сдал письменные экзамены в ведущих бизнес-школах и юридических школах, что, помимо прочего, внушает благоговейный трепет и вызывает тревогу. Исследователи из Лаборатории поляризации и социальных изменений Стэнфордского университета и Института ориентированного на человека искусственного интеллекта (HAI) хотели исследовать границы политической убедительности ИИ, проверяя его способность влиять на реальных людей по некоторым из самых острых социальных проблем дня. запрет на штурмовое оружие, налог на выбросы углерода и оплачиваемый отпуск по уходу за ребенком, среди прочего.
|
|
|
|
«Искусственный интеллект показал себя довольно хорошо. Действительно, убедительные призывы, созданные искусственным интеллектом, были столь же эффективны, как и написанные людьми, в убеждении человеческой аудитории по ряду политических вопросов», — сказал Хуэй «Макс» Бай, исследователь с докторской степенью в Лаборатории поляризации и социальных изменений и первый автор новой статьи об эксперименте в препринте. Исследовательская группа во главе с Роббом Уиллером, профессором социологии, психологии и организационного поведения в Стэнфордской школе гуманитарных наук и директором лаборатории поляризации и социальных изменений, использовала GPT-3, ту же большую языковую модель, которая питает ChatGPT. . Они попросили свою модель создать убедительные сообщения по нескольким спорным темам.
|
|
|
Затем они заставили тысячи реальных людей прочитать эти убедительные тексты. Читателям случайным образом назначались тексты — иногда они были написаны ИИ, иногда — людьми. Во всех случаях участников просили заявить о своей позиции по вопросам до и после чтения. Затем исследовательская группа смогла оценить, насколько убедительными были сообщения для читателей, и оценить, какие авторы были наиболее убедительны и почему. Во всех трех проведенных сравнениях сообщения, сгенерированные ИИ, были «постоянно убедительными для читателей». Хотя размеры эффекта были относительно небольшими, попадая в диапазон нескольких баллов по шкале от нуля до 100, такие небольшие изменения, экстраполированные на поляризующую тему и шкалу голосующего населения, могли оказаться значительными.
|
|
|
|
Например, авторы сообщают, что сообщения, сгенерированные ИИ, были, по крайней мере, столь же убедительны, как и сообщения, созданные людьми, по всем темам, а также о запрете на курение, контроле над оружием, налоге на выбросы углерода, увеличении налогового кредита на детей и программе отпуска по уходу за ребенком. стал «значительно больше поддерживать» политику при чтении текстов, созданных ИИ. В качестве дополнительной метрики команда попросила участников описать качества текстов, которые они прочитали. ИИ последовательно оценивался как более основанный на фактах и логичный, менее злой и менее полагающийся на рассказывание историй как метод убеждения.
|
|
|
|
Исследователи предприняли свое исследование политической убедительности не как ступеньку к новой эре политического дискурса, наполненного искусственным интеллектом, а как предостерегающий рассказ о возможности того, что что-то может пойти не так. По их словам, чат-боты имеют серьезные последствия для демократии и национальной безопасности. Авторы беспокоятся о потенциальном вреде при использовании в политическом контексте. Крупноязыковые модели, такие как GPT-3, могут применяться злонамеренными внутренними и иностранными субъектами в рамках кампаний по дезинформации или дезинформации или для создания сомнительного контента на основе неточной или вводящей в заблуждение информации для пока еще непредвиденных политических целей.
|
|
|
|
«Очевидно, что ИИ достиг уровня сложности, который ставит перед политиками и законодателями некоторые важные вопросы, требующие их внимания», — сказал Уиллер. «ИИ может влиять на политический дискурс, и мы должны с самого начала решать эти проблемы». Бай отметил, что искусственный интеллект убеждения можно использовать для массовых кампаний, основанных на подозрительной информации, и использовать для лоббирования, создания онлайн-комментариев, написания одноранговых текстовых сообщений или даже для написания писем редакторам влиятельных печатных изданий. «Эти тревожные выводы требуют немедленного рассмотрения правил использования ИИ в политической деятельности», — сказал Бай.
|
|
|
|
Источник
|
