|
Модераторы могут легко стать жертвами дезинформации
|
|
|
|
Согласно недавним исследованиям, модераторы онлайн-контента подвержены “эффекту иллюзорной правды”, который может заставить их поверить в дезинформацию, от которой они должны защищаться. Совместные усилия исследователей из Массачусетского технологического института, Университета штата Флорида, и глобальной аутсорсинговой компании TaskUs привели к выводам, имеющим серьезные последствия для онлайн-платформ. Их исследование, в котором основное внимание уделялось модераторам контента в Индии и на Филиппинах, показало, что если вы дважды увидите ложный заголовок, вероятность того, что вам поверят, может увеличиться на 7,1%.
|
|
Опасения по поводу того, что в информационной экономике не хватает работы
|
|
|
|
С бурным развитием Web 2.0 и пользовательского контента проблемный контент стал постоянно присутствовать в информационной экосистеме. По оценкам, сотни тысяч модераторов контента, работающих по всему миру, препятствуют этому.
|
|
|
|
Хотя многие пользователи онлайн-платформ знают, что люди просматривают их материалы, чтобы убедиться, что они соответствуют политике компании, пользователи не могут не знать, кто эти модераторы. Американские компании в Кремниевой долине в основном отправляют эту работу в незападные страны, где образованные работники доступны за небольшую плату.
|
|
|
|
|
|
|
Правда, иллюзия и дезинформация
|
|
|
|
‘Эффект иллюзорной правдивости’ - это хорошо документированное когнитивное отклонение, при котором вероятность того, что человек поверит информации, тем больше, чем чаще она повторяется, независимо от ее точности. Это означает, что даже ложная информация, встреченная несколько раз, может начать казаться правдивой.
|
|
|
|
Несмотря на свою важнейшую роль в качестве арбитров истины в глобальном масштабе, модераторы контента по своей сути являются людьми. Модераторы подвержены тем же когнитивным предубеждениям, что и все остальные, и их рабочий процесс полностью состоит из сомнительного контента с пометками, в результате чего они оказываются завалены дезинформацией. Кроме того, главная забота модераторов не обязательно заключается в том, является ли информация точной, но в том, нарушает ли она руководящие принципы, которые могут быть больше связаны с юридическими проблемами или преследованием, чем с правдивостью заявления.
|
|
|
|
Исследователь Массачусетского технологического института и Корнеллского университета Хауз Лин, специализирующийся на онлайн-дезинформации, является ведущим автором новой статьи, в которой исследуется влияние ложной правды на модераторов контента. Кроме того, команда Лина интересовалась, может ли культура сыграть свою роль. Филиппины и Индия являются более коллективизированными культурами по сравнению с индивидуализмом Соединенных Штатов. В исследованиях коллективизированной культуры особое внимание уделяется общему смыслу, членству в группе и коллективным целям.
|
|
|
|
Не имея достаточных данных о том, как иллюзорная правда может влиять на различные культуры, сотрудники Массачусетского технологического института и Корнеллского университета также решили определить, будет ли этот эффект повторяться в незападной среде. Делают ли эти предрасположенности модераторов более восприимчивыми к эффекту иллюзорной правды в культурном отношении?
|
|
Наблюдая за стражами
|
|
|
|
Исследователи определили TaskUs, международную корпорацию, занимающуюся глобальным аутсорсингом для технологических компаний, в качестве основного игрока в модерации контента. Лин работал с организацией над исследованием, чтобы определить, насколько модераторы подвержены дезинформации. Участие TaskUs обеспечило доступ к большому количеству модераторов реального контента, что позволило исследователям всесторонне изучить эффект иллюзорной правды.
|
|
|
|
Команда Лина начала с базового эксперимента, чтобы выяснить, смогут ли они измерить эффект иллюзорной правды среди модераторов контента TaskUs. Они начали с того, что попросили сотрудников TaskUs оценить группу заголовков на предмет их интересности, дали им анкету для отвлечения внимания и, наконец, показали им группу из 48 заголовков для оценки их правдивости. Вторая группа повторила исходные 16 заголовков, добавив 32 новых. В целом, респонденты из обеих стран, независимо от таких факторов, как образование или религиозные убеждения, с гораздо большей вероятностью оценивали ложные заголовки как правдивые, если они появлялись дважды.
|
|
Формирование установки на точность
|
|
|
|
Затем команда Лина собрала более широкую выборку среди населения Индии и Филиппин, которая примерно в пять раз превышала выборку сотрудников TaskUs, состоящую из 199 человек. Среди населения в целом они получили те же результаты. Затем исследователи приступили к тестированию возможного решения, установив так называемый “настрой на точность”. Этот подход предполагает, что испытуемых просят в первом раунде обращать внимание на точность заголовка, а не на его интересность, тем самым побуждая испытуемых сосредоточиться на правдивости информации при первом знакомстве с ней; этот подход никогда не применялся в полевых условиях за пределами Запада.
|
|
|
|
Определение точности при первом знакомстве испытуемого с заголовком оказалось важным средством борьбы с иллюзией правдивости, а у некоторых испытуемых эффект был даже обратным. Вероятность правильной оценки повторяющихся заголовков возросла.
|
|
|
|
Лин вернулся в TaskUs для проведения второго раунда лечения с их сотрудниками, что привело к тем же результатам, что и его тестирование на точность мышления среди широкой публики. Авторы отмечают в исследовании, что эффект иллюзии правдивости имеет значительные последствия для продолжающегося снижения точности, особенно когда алгоритмы обучаются на все более плохих человеческих решениях.
|
|
|
|
Их простое решение — стремиться к точности, а не просто широко рассматривать нарушения правил - является многообещающим средством защиты от потенциально опасной спирали постоянно растущей дезинформации.
|
|
|
|
Источник
|
