|
ИИ ChatGPT угрожает языковому разнообразию
|
|
|
|
Шум вокруг технологий искусственного интеллекта (ИИ), таких как ChatGPT, ощутим. Люди одновременно оптимистичны и напуганы возможностями этих инструментов. Очевидно, что эти технологии изменят то, как люди пишут. Но с точки зрения того, что люди пишут, эти технологии, кажется, принимают статус-кво. На самом деле, то, как эти инструменты в настоящее время построены, похоже, делает письмо однородным, заставляя все звучать одинаково. И писать, что звучит одинаково, не просто скучно; это также увековечивает неравенство.
|
|
|
|
Когда инструменты письма отдают приоритет одному способу письма над другим, они укрепляют существующие иерархии, которые несправедливо позиционируют стандартный американский английский (SAE) и королевский английский по сравнению с другими языками и способами письма. Такие технологии, как ChatGPT, называются большими языковыми моделями (LLM). LLM обеспечивают текстовые ответы на человеческие команды, используя машинное обучение для изучения шаблонов слов в огромном архиве текстов.
|
|
|
Однако важно отметить, что ChatGPT не знает значения слов. ChatGPT генерирует определения, сортируя множество определений, а затем сопоставляя их в один ответ, соответствующий контексту запроса. Другими словами, ChatGPT не ориентируется на смысл, а отвечает на запросы, полагаясь на контекстные подсказки, стилистические структуры, формы письма, лингвистические модели и частотность слов. Эта функциональность означает, что по умолчанию ChatGPT увековечивает доминирующие способы письма и использования языка, оттесняя менее распространенные.
|
|
|
|
Доминирующие способы письма не становятся доминирующими случайно. Они становятся доминирующими, потому что одна социальная группа хочет утвердить власть над другой социальной группой. Нет, например, одного вида английского языка. Англичан много. Решение отдать приоритет стандартному американскому английскому во многих классах в США, например, означает, что носители черного английского — языка с собственной грамматикой, лексикой и выдающейся историей сопротивления — подвергаются наказанию и позору за то, что пишут так, как говорят.
|
|
|
|
Точно так же в Аотеароа, Новая Зеландия, английский язык королевы стал доминирующим не потому, что он по своей сути лучше, чем te reo Maori. Скорее, европейские колонизаторы хотели искоренить культуру маори, и письмо на английском языке королевы стало ключевым инструментом для достижения этой цели. В 20 веке учеников в школах регулярно избивали за то, что они говорили на маори. Сторонники ChatGPT быстро заметят, что ChatGPT может читать, анализировать и генерировать контент на многих языках, в том числе на черном английском и те рео маори. Но дело не в том, что может сделать ChatGPT.
|
|
|
|
Речь идет о его настройках по умолчанию. Речь идет о том, как ChatGPT настроен для обработки некоторых форм письма как нормальных, типичных и ожидаемых. И речь идет о том, что ChatGPT требует специального запроса для создания ненормативных форм письма. Это проблематичное поведение по умолчанию также встречается в дочерней программе ChatGPT, Dall-E 2. Этому ИИ, генерирующему изображения, было предложено создать изображение для этой статьи на основе этой подсказки: «фотография крупным планом рук, печатающих на ноутбуке». Программа создала четыре изображения. У всех были белые мужские руки.
|
|
|
|
Программе требовалось более конкретное приглашение для создания изображения, включающего цветного человека, потому что даже в способах, которыми ИИ визуализирует письмо, доминируют белые люди. В конечном счете, этот вид алгоритмической предвзятости продолжает делать белых англоговорящих мужчин эталоном писательской культуры, в то время как всех остальных оттесняют на обочину. Неудивительно, что функциональность ChatGPT по умолчанию, по-видимому, отдает приоритет формам письма на английском языке, разработанным белыми людьми. Белые англоговорящие мужчины уже давно доминируют во многих секторах, требующих интенсивного письма, включая журналистику, юриспруденцию, политику, медицину, компьютерные науки и научные круги.
|
|
|
|
Эти белые англоговорящие мужчины в совокупности написали миллиарды слов, во много раз больше, чем их цветные коллеги. Огромный объем слов, написанных этими авторами, означает, что они, вероятно, составляют большинство моделей обучения ChatGPT, даже несмотря на то, что материнская компания ChatGPT, OpenAI, публично не раскрывает исходный материал. Поэтому, когда пользователи просят ChatGPT создать контент в любой из этих дисциплин, вывод по умолчанию написан голосом, стилем и языком тех же белых англоговорящих мужчин. Некоторые люди скажут, что нам нужны стандартные и письменные стандарты. Они утверждают, что нам нужно учить людей писать на королевском английском или SAE, чтобы люди не упускали работу и продвижение по службе, потому что они пишут по-другому.
|
|
|
|
Но такой ход мыслей просто означает капитуляцию перед предрассудками на рабочем месте и укрепление несправедливой системы своим участием в ней. Вместо этого другие ученые говорят, что нам нужно бросить вызов этим несправедливым стандартам письма и поощрять писателей использовать богатые риторические возможности в их языковом разнообразии. У педагогов, которые хотят использовать языковое разнообразие, может возникнуть соблазн запретить генерирующий текст искусственный интеллект в своих школах и университетах. Но стоит помнить, что сама письменность — это технология, которая использовалась и до сих пор используется для усиления неравенства. Литературовед Элис Те Пунга Сомервиль называет это «неразрывностью письма от исторического и продолжающегося насилия».
|
|
|
|
Однако в ответ на эту угрозу профессор Сомервиль не выступает за полный отказ от писательства. Скорее, она настаивает на использовании инструмента критического и творческого письма, чтобы противостоять угнетению. Следуя ее примеру, преподаватели могут вместо этого поощрять учащихся к разработке новых способов использования этих инструментов для создания более справедливого будущего. Это означает, как говорит профессор Вершон Янг в «Черном английском», что «хорошее письмо стало выглядеть и звучать немного иначе, чем некоторые могут теперь ожидать. И еще один действительно хороший результат заключается в том, что мы перестали помогать уменьшать предубеждения».
|
|
|
|
Источник
|
