17.10.2024. - Дезинформация, генерируемая ИИ, распространена повсюду

Дезинформация, генерируемая ИИ, распространена повсюду

Каким бы искусственным оно ни было, концепция "интеллекта", похоже, не вяжется с созданным компьютером изображением котов в форме, вооруженных штурмовыми винтовками. Тем не менее, это визуальное оскорбление, подкрепляющее опровергнутую историю об иммигрантах в Огайо, поедающих домашних животных, стало визитной карточкой президентских выборов в США в 2024 году. Он был создан с использованием искусственного интеллекта (ИИ) сторонниками кандидата от республиканцев Дональда Трампа и распространен в Интернете самим бывшим президентом.

Поскольку это были первые выборы в эпоху широкого доступа к генеративному искусственному интеллекту, который может создавать, казалось бы, оригинальный контент, на сайтах с сомнительной репутацией и в наших лентах в социальных сетях появился поток сфабрикованных и вводящих в заблуждение текстов и изображений.

Чтобы узнать больше о роли этой технологии в конкурсе, Maryland Today поговорил с тремя экспертами факультета Мэрилендского университета: профессором колледжа информации Дженнифер Голбек, которая изучает алгоритмы социальных сетей и распространение экстремистского контента; профессором лингвистики Филипом Резником, который по совместительству занимается компьютерными подходами к языку и психологии. в Институте перспективных компьютерных исследований; и доцент журналистики Дэниел Триелли, магистр журналистики. "16", который исследует, как поисковые системы распространяют дезинформацию и намеренную дезинформацию среди других тем.

По их словам, в условиях быстрого развития технологий искусственного интеллекта существует мало средств контроля за их использованием, что возлагает на избирателей ответственность за отделение хорошей информации от плохой.

Каков ваш главный пример сомнительного использования искусственного интеллекта на выборах 2024 года?

Голбек: Тейлор Свифт, конечно. Для меня удивительно, что Дональд Трамп думал, что ему сойдет с рук публикация этих фотографий в стиле Свифт для Трампа. Я не думаю, что кто-то подумал, что это настоящие изображения Тейлор Свифт, но дело не в этом. Независимо от того, является ли это причиной, по которой она поддержала Камалу Харрис, это дало ей возможность сказать: "Мой образ был использован в ИИ, я обеспокоена этим, и теперь я должна сказать вам, за кого я на самом деле собираюсь голосовать".

Резник: Роботизированный опрос Байдена в Нью-Гэмпшире (созданный политическим консультантом, связанным с кампанией малоизвестного оппонента на праймериз), который был разработан для подавления явки сторонников Байдена на праймериз Демократической партии, был показателем того, что может принести будущее.

Трилли: Одним из самых громких является вопиюще ложное обвинение в том, что гаитянские иммигранты в Огайо нарушают социальные нормы, поедая домашних животных других людей. Целью этого было не произвести местный эффект и перевернуть Огайо с ног на голову, а создать общие, общенациональные антииммигрантские настроения в политических целях. Полученные в результате этого изображения, созданные с помощью ИИ, не были представлены как реальные, но они показывают, как часто работают кампании по дезинформации, создавая негативную эмоциональную атмосферу против кого-то или чего-то.

Как большинство из нас сталкивается с ложной или дезинформацией о выборах, созданной с помощью ИИ?

Трилли: Вероятность столкнуться с этим, особенно в социальных сетях, близка к 100%. Искусственный интеллект может генерировать эмоционально привлекательный контент с огромной скоростью, поэтому его очень много, и независимо от того, кто мы такие, те, на кого мы подписаны, обязательно поделятся им. Однако, помимо дезинформации, мы видим множество контента, созданного с помощью искусственного интеллекта, который, возможно, предназначен не для того, чтобы заставить вас поверить в то, что произошло что-то неправдивое, а для того, чтобы заставить вас установить связь между человеком и идеей, позитивной или негативной.

Резник: Искусственный интеллект обладает способностью неустанно распространять ложные сообщения в социальных сетях, и в политической психологии и психологии в целом есть работы, показывающие, что даже ложные сообщения находят отклик и получают признание, если они достаточно часто повторяются и отражают предубеждения людей.

Однако мы не всегда сталкиваемся с этим как с откровенной фальсификацией всего материала. Мой бывший студент Пранав Гоэль, доктор философии 23—х лет, в своей диссертации показал, как можно взять достоверную новостную историю и найти в ней что—то - возможно, чрезмерно упрощенный заголовок, - что поддерживает повествование, которое может отсутствовать во всей статье, но может быть подано как дезинформация. Он очень систематично показал, как это происходит с источниками новостей, связанными как с правым крылом, так и с прогрессистами.

Голбек: Роль искусственного интеллекта на этих выборах в некотором смысле не поддается прогнозированию. Несколько лет назад ожидалось появление множества фальшивок, которые были бы действительно убедительными и запутали бы людей в том, что реально, а что нет. По крайней мере, в том, что касается изображений и видео, существует масса контента, созданного с помощью искусственного интеллекта, но очень малая его часть, которая становится популярной, не соответствует действительности. Это почти новый способ создания мемов.

В текстовой части все по-другому. Боты для распространения дезинформации в социальных сетях, имеющие доступ к инструментам искусственного интеллекта, таким как ChatGPT, делают их более человечными и способными вести реалистичные разговоры. Они более убедительны, чем на прошлых выборах — те из нас, кто общается с ботами, знают, что теперь они могут убедительно на вас кричать.

Кто это делает и на кого они нацелены?

Голбек: Конечно, в этом году в это вовлечены русские, хотя сейчас они не являются и никогда не были единственными вовлеченными государственными субъектами. Конечно, их боты продвигают контент в поддержку MAGA и Трампа, но они также продвигают крайне левый контент, чтобы подавить голосование. Для некоторых избирателей это означает пропаганду материалов о войне в Газе не для того, чтобы завоевать голоса Трампа, а для того, чтобы потерять голоса демократов. Это российский, а до этого советский опыт в создании социального раскола в Соединенных Штатах.

Трилли: Стратегии и цели различаются, но важно понимать одну вещь: эта тактика работает только потому, что избирательная система Соединенных Штатов очень хрупка из-за коллегии выборщиков. Иногда один штат может определить, кто будет следующим президентом Соединенных Штатов, и, возможно, всего несколько десятков тысяч человек в одной части этого штата. Генеративный ИИ позволяет создавать большой объем и разнообразие контента, и это делается с надеждой на то, что одно из этих сообщений дойдет до этих немногих людей в нужное время.

Что вас больше всего беспокоит в политическом обмане, основанном на искусственном интеллекте?

Голбек: Существует классическая фашистская политическая тактика, цель которой не обязательно состоит в том, чтобы заставить людей поверить в ложь, а в том, чтобы заставить их усомниться в том, как отличить правду от лжи, которой нет. Меня больше всего беспокоит ситуация, когда люди говорят: "Я понятия не имею, что реально, поэтому я не собираюсь ничему доверять". Когда вы так поступаете, это закладывает основу для процветания фашистской и авторитарной политики.

Как мы можем защитить себя от того, чтобы нас не обманули?

Трилли: Важно понимать, что когда мы видим что-то, с чем мы в целом согласны, мы с большей вероятностью принимаем это как истину, даже если это не так. Как журналистов, нас учат сталкиваться с нашими собственными предубеждениями, чтобы защититься от них. Но теперь все мы, пользователи социальных сетей, являемся распространителями информации. Прежде чем поделиться чем-либо, вы можете использовать технику, называемую "боковым чтением", когда вы начинаете с фрагмента информации, а затем просматриваете другую информацию и контекст, чтобы понять, действительно ли то, чем вы хотите поделиться, правдоподобно.

Голбек: Когда вы видите что—то, что вас злит, у вас должны возникнуть подозрения - большая часть дезинформации предназначена для того, чтобы вызвать сильную эмоциональную реакцию, и, как мы выяснили, ИИ в этом очень хорош. Это может быть просто что-то, что вы находите забавным или интересным. Я видел людей с богатым информационным опытом, которые публиковали то, что им казалось интересным, потому что забывали сделать перекрестные ссылки.

Резник: У меня был такой опыт много лет назад, когда я читал манифест Унабомбера, где говорилось об окружающей среде и технологиях, и я поймал себя на мысли: "Да, да, это хорошая мысль, очень логичная... Подождите, что??", Когда кто-то кажется вам разумным, но делает очень неразумный аргумент, вам нужно постараться отделить "что я чувствую из-за этого" от "что это значит на самом деле". Я думаю, что для людей, которые не обучены этому, это может быть очень сложно, но преодолеть дезинформацию, направленную против наших эмоций, — это именно то, что мы должны делать.

Источник