Искусственный интеллект может вылечить конспиролога
Новое исследование, опубликованное в журнале Science, показывает, что для некоторых людей, которые верят в теории заговора, разговор с чат-ботом с искусственным интеллектом (ИИ), основанный на фактах, может "вытащить их из кроличьей норы". Это исследование, проведенное Томасом Костелло из Массачусетского технологического института и его коллегами, показывает перспективность решения сложной социальной проблемы: веры в теории заговора. Некоторые теории заговора относительно безобидны, например, вера в то, что Финляндии не существует (и это нормально, пока вы не встретите финна). Однако другие теории снижают доверие к государственным институтам и науке. Это становится проблемой, когда теории заговора убеждают людей не делать прививки или не предпринимать действий против изменения климата. В самом крайнем случае вера в теории заговора ассоциируется с человеческими смертями.
Теории заговора "прилипчивы"
Несмотря на негативное влияние теорий заговора, они оказались очень "цепкими". Если люди однажды поверили в теорию заговора, им трудно изменить свое мнение. Причины этого сложны. Убеждения сторонников теории заговора связаны с сообществами, и сторонники теории заговора часто проводят обширные исследования, чтобы обосновать свою позицию. Когда человек больше не доверяет науке или кому-либо за пределами своего сообщества, ему трудно изменить свои убеждения.
Введите в искусственный интеллект
Массовое распространение генеративного ИИ в публичной сфере усилило опасения по поводу того, что люди верят в то, что не соответствует действительности. ИИ позволяет очень легко создавать правдоподобный поддельный контент. Даже при добросовестном использовании системы ИИ могут искажать факты. (ChatGPT и другие чат-боты даже предупреждают пользователей о том, что они могут ошибаться в некоторых вопросах.) Системы искусственного интеллекта также содержат широко распространенные предубеждения, что означает, что они могут способствовать распространению негативных представлений о некоторых группах людей. Учитывая все это, довольно удивительно, что общение с системой, которая, как известно, генерирует фейковые новости, может убедить некоторых людей отказаться от теорий заговора, и что изменения, похоже, будут долгосрочными. Однако это новое исследование ставит нас перед проблемой хороших и плохих новостей. Здорово, что мы обнаружили нечто, что может повлиять на убеждения сторонников теории заговора! Но если чат-боты с искусственным интеллектом способны отговаривать людей от навязчивых, антинаучных убеждений, что это значит для истинных убеждений?
Что могут сделать чат-боты?
Давайте рассмотрим новое исследование более подробно. Исследователям было интересно узнать, можно ли использовать фактические аргументы, чтобы убедить людей не верить в теорию заговора. В этом исследовании приняли участие более 2000 человек в двух исследованиях, и все они общались с чат-ботом с искусственным интеллектом после описания теории заговора, в которую они верили. Всем участникам сказали, что они общались с чат-ботом с искусственным интеллектом. Люди из группы "лечение" (60% всех участников) общались с чат-ботом, который был настроен в соответствии с их конкретной теорией заговора и причинами, по которым они в нее верили. Этот чат-бот пытался убедить этих участников в том, что их убеждения неверны, используя фактические аргументы в течение трех раундов беседы (каждый участник и чат-бот по очереди выступают в одном раунде).
Другая половина участников провела общую дискуссию с чат-ботом. Исследователи обнаружили, что около 20% участников группы, проходившей лечение, продемонстрировали снижение веры в теории заговора после их обсуждения. Когда исследователи встретились с участниками два месяца спустя, большинство из этих людей все еще демонстрировали снижение веры в теории заговора. Ученые даже проверили, были ли чат-боты с искусственным интеллектом точными, и они (в основном) оказались точными. Мы видим, что, по крайней мере, для некоторых людей трехсторонняя беседа с чат-ботом может убедить их отказаться от теории заговора.
Итак, мы можем исправить ситуацию с помощью чат-ботов?
Чат-боты действительно обещают решить две проблемы, связанные с преодолением ложных убеждений. Поскольку они являются компьютерами, они не воспринимаются как имеющие "повестку дня", что делает их высказывания более достоверными (особенно для тех, кто потерял веру в государственные институты). Чат-боты также могут привести аргументы, которые лучше, чем просто факты. Простое перечисление фактов лишь в минимальной степени эффективно против ложных убеждений. Однако чат-боты не являются панацеей от всех бед. Это исследование показало, что они более эффективны для людей, у которых нет веских личных причин верить в теорию заговора, а это означает, что они, вероятно, не помогут людям, для которых конспирология - это сообщество.
Так стоит ли мне использовать ChatGPT для проверки своих фактов?
Это исследование демонстрирует, насколько убедительными могут быть чат-боты. Это здорово, когда они настроены убеждать людей в фактах, но что, если это не так? Один из основных способов, с помощью которого чат-боты могут распространять дезинформацию или создавать заговоры, заключается в том, что их исходные данные неверны или предвзяты: чат-бот будет отражать это. Некоторые чат-боты специально созданы для того, чтобы отражать предвзятость, увеличивать или ограничивать прозрачность. Вы даже можете общаться в версиях ChatGPT, настроенных таким образом, чтобы утверждать, что Земля плоская.
Вторая, более тревожная вероятность заключается в том, что, поскольку чат-боты реагируют на предвзятые запросы (которые поисковики могут не осознавать как предвзятые), они могут распространять дезинформацию (включая убеждения в заговоре). Мы уже знаем, что люди плохо проверяют факты, и когда они используют для этого поисковые системы, эти поисковые системы реагируют на их (непреднамеренно предвзятые) поисковые запросы, укрепляя веру в дезинформацию. Чат-боты, скорее всего, будут такими же. В конечном счете, чат-боты - это инструмент. Они могут быть полезны для развенчания теорий заговора, но, как и в случае с любым инструментом, важны навыки и намерения создателя и пользователя. Теории заговора начинаются с людей, и именно люди положат им конец.
