|
Замена редакторов новостей на ИИ вызывает беспокойство
|
|
|
|
Сообщается, что самая продаваемая немецкая газета Bild использует искусственный интеллект (ИИ) для замены некоторых редакционных функций, чтобы сократить расходы. В утечке внутреннего электронного письма, отправленного сотрудникам 19 июня, издатель газеты, Аксель Спрингер, сказал, что «к сожалению, расстанется с коллегами, у которых есть задачи, которые будут заменены ИИ и/или процессами в цифровом мире». Функции директоров редакций , редакторы страниц, корректоры, секретари и фоторедакторы больше не будут существовать, как сегодня». Электронное письмо следует за февральской запиской, в которой исполнительный директор Акселя Спрингера написал, что газета превратится в «чисто цифровую медиа-компанию» и что «искусственный интеллект может сделать независимую журналистику лучше, чем когда-либо, или просто заменить ее».
|
|
|
|
Впоследствии Bild отрицала, что редакторы будут напрямую заменены ИИ, заявив, что сокращение персонала связано с реструктуризацией, а ИИ будет только «поддерживать» журналистскую работу, а не заменять ее. Тем не менее, эти события заставляют задаться вопросом: как основные столпы редакционной работы — суждение, точность, подотчетность и справедливость — будут работать в условиях растущей волны ИИ? Возложение редакционных обязанностей на ИИ, будь то сейчас или в будущем, сопряжено с серьезными рисками как из-за природы ИИ, так и из-за важности роли редакторов газет. Редакторы занимают чрезвычайно важное положение в демократических странах, им поручено отбирать, представлять и формировать новостные сообщения таким образом, чтобы информировать и вовлекать общественность, выступая в качестве решающего связующего звена между событиями и общественным пониманием.
|
|
|
Их роль играет ключевую роль в определении того, какая информация является приоритетной и как она оформлена, тем самым направляя общественное обсуждение и общественное мнение. Подбирая новости, редакторы освещают ключевые социальные проблемы, провоцируют дискуссии и поощряют гражданское участие. Они помогают следить за тем, чтобы действия правительства тщательно изучались и привлекались к ответственности, внося свой вклад в систему сдержек и противовесов, лежащую в основе функционирующей демократии. Более того, редакторы поддерживают качество информации, доводимой до общественности, препятствуя распространению предвзятых точек зрения и ограничивая распространение дезинформации, что особенно важно в нынешнюю цифровую эпоху.
|
|
|
|
Существующие системы искусственного интеллекта, такие как ChatGPT, неспособны адекватно выполнять редакционные роли, потому что они крайне ненадежны, когда речь идет об обеспечении фактической точности и беспристрастности информации. Широко известно, что ChatGPT может выдавать правдоподобную, но явно ложную информацию. Например, адвокат из Нью-Йорка недавно невольно представил в суд записку, содержащую шесть несуществующих судебных решений, которые были выдуманы ChatGPT. Ранее в июне сообщалось, что радиоведущий подает в суд на OpenAI после того, как ChatGPT сгенерировал ложную юридическую жалобу, обвиняющую его в хищении денег. Как ранее в этом году узнал репортер The Guardian, ChatGPT можно даже использовать для создания целых поддельных статей, которые впоследствии выдаются за настоящие. В той мере, в какой ИИ будет использоваться для создания, обобщения, агрегирования или редактирования текста, существует риск, что выходные данные будут содержать сфабрикованные детали.
|
|
|
|
Системы ИИ также имеют врожденные предубеждения. Их результаты формируются данными, на которых они обучаются, отражая как широкий спектр человеческих знаний, так и присущие данным предубеждения. Эти предубеждения не сразу бросаются в глаза и могут тонко, но глубоко повлиять на общественное мнение. В исследовании, опубликованном в марте, исследователь провел 15 тестов на политическую ориентацию ChatGPT и обнаружил, что в 14 из них инструмент дал ответы, отражающие левые политические взгляды. В другом исследовании исследователи провели для ChatGPT восемь тестов, отражающих соответствующую политику государств-членов G7. Эти тесты выявили уклон в сторону прогрессивных взглядов. Интересно, что прогрессивные наклонности инструмента непостоянны, и его ответы могут иногда отражать более традиционные взгляды. Это несоответствие наблюдается и в моральных ситуациях. Когда исследователи попросили ChatGPT отреагировать на проблему тележки (вы бы убили одного человека, чтобы спасти пятерых?), инструмент дал противоречивый совет, продемонстрировав изменение этических приоритетов. Тем не менее, моральные суждения участников-людей все больше согласовывались с рекомендациями, предоставленными ChatGPT, даже когда они знали, что их советует инструмент ИИ.
|
|
|
|
Причина этого несоответствия и способ его проявления неясны. Системы искусственного интеллекта, такие как ChatGPT, представляют собой «черные ящики»; их внутреннюю работу трудно полностью понять или предсказать. В этом заключается риск использования их в редакционных ролях. В отличие от редактора-человека, они не могут осмысленно объяснить свои решения или рассуждения. Это может стать проблемой в сфере, где важны подотчетность и прозрачность. Хотя финансовые выгоды от использования ИИ в редакционных ролях могут показаться убедительными, новостным организациям следует действовать с осторожностью. Учитывая недостатки существующих систем искусственного интеллекта, они не подходят для работы в качестве редакторов газет. Однако они могут сыграть ценную роль в редакционном процессе в сочетании с человеческим контролем. Способность ИИ быстро обрабатывать огромные объемы данных и автоматизировать повторяющиеся задачи можно использовать для расширения возможностей редакторов-людей.
|
|
|
|
Например, ИИ можно использовать для проверки грамматики или анализа тенденций, освобождая редакторов-людей, чтобы они могли сосредоточиться на принятии тонких решений, этических соображениях и качестве контента. Редакторы-люди должны обеспечить необходимый надзор, чтобы смягчить недостатки ИИ, обеспечить точность информации и соблюдение редакционных стандартов. Благодаря этой совместной модели ИИ может быть вспомогательным инструментом, а не заменой, повышая эффективность при сохранении важного человеческого контакта в журналистике.
|
|
|
|
Источник
|
