|
Мошенничество в эпоху ChatGPT
|
|
|
|
Хотя публичный выпуск управляемого искусственным интеллектом чат-бота на большом языке ChatGPT вызвал большой ажиотаж вокруг перспектив этой технологии и расширения использования ИИ, он также посеял изрядную долю беспокойства по поводу того, что за программа может напечатать сносное эссе на уровне колледжа за считанные секунды — это залог будущего преподавания и обучения. Естественно, это потрясение привело к распространению программ обнаружения — различной эффективности — и соразмерному увеличению обвинений в мошенничестве. Но как относятся ко всему этому студенты? Недавно опубликованное исследование доктора философии Тима Горичаназа из Университета Дрекселя дает первое представление о некоторых реакциях студентов колледжей, которых обвиняют в использовании ChatGPT для мошенничества. В исследовании, опубликованном в журнале Learning: Research and Practice в рамках серии о генеративном искусственном интеллекте, были проанализированы 49 сообщений Reddit и связанные с ними обсуждения студентов колледжей, которых обвинили в использовании ChatGPT при выполнении задания.
|
|
|
|
Горичаназ, доцент Дрексельского колледжа вычислительной техники и информатики, выделил ряд тем в этих беседах, в первую очередь разочарование со стороны ошибочно обвиненных студентов, тревогу по поводу возможности быть ошибочно обвиненным и того, как этого избежать, а также нарастающее сомнение. и цинизм по поводу необходимости высшего образования в эпоху генеративного искусственного интеллекта. «Поскольку мир высшего образования коллективно пытается понять и разработать лучшие практики и политику использования таких инструментов, как ChatGPT, нам жизненно важно понять, как восхищение, тревога и страх, возникающие при принятии любой новой образовательной технологии, также влияют на студентов. которые проходят свой собственный процесс выяснения того, как его использовать», — сказал Горичаназ.
|
|
|
Из 49 студентов, разместивших сообщения, 38 заявили, что не использовали ChatGPT, но программы обнаружения, такие как Turnitin или GPTZero, тем не менее пометили их задание как созданное искусственным интеллектом. В результате многие дискуссии приняли тон юридического спора. Студенты спросили, как они могут представить доказательства того, что они не жульничали, некоторые комментаторы посоветовали продолжать отрицать использование программы, поскольку детекторы ненадежны. «Многие студенты выразили обеспокоенность по поводу возможности быть ошибочно обвинены детектором ИИ», — сказал Горичаназ. «В некоторых дискуссиях подробно обсуждалось, как студенты могут собирать доказательства того, что они написали эссе без ИИ, включая отслеживание черновых версий и использование программного обеспечения для записи экрана. Другие предлагали запускать детектор самостоятельного письма до тех пор, пока оно не вернется без ошибок. отмечено».
|
|
|
|
Еще одной темой, возникшей в ходе дискуссий, была предполагаемая роль колледжей и университетов как «привратников» на пути к успеху и, как следствие, высокие ставки, связанные с ошибочным обвинением в мошенничестве. Это привело к вопросам готовности учреждений к новой технологии и опасениям, что профессора будут слишком зависеть от детекторов искусственного интеллекта, точность которых остается под вопросом. «Дискуссии, происходящие в Интернете, развивались от конкретных сомнений в точности обнаружения ИИ и политики университетов в отношении использования генеративного ИИ до широкого вопроса о роли высшего образования в обществе и предположений, что эта технология сделает высшие учебные заведения неактуальными в ближайшем будущем", - сказал Горичаназ. Исследование также выявило эрозию доверия среди студентов, а также между студентами и преподавателями, вызванную представлением студентов о том, что они постоянно находятся под подозрением в мошенничестве. Ряд комментариев иллюстрировал деградацию этих отношений:
|
|
|
|
- «Я никогда бы не ожидал, что меня обвинят именно он, из всех моих профессоров».
|
|
- «Конечно, она доверяет этому детектору ИИ больше, чем нам».
|
|
- «Я знаю, что я точно не занимаюсь плагиатом, но, к сожалению, не всегда можно доверять другим».
|
|
|
|
Технология генеративного искусственного интеллекта заставила высшие учебные заведения пересмотреть свою практику оценки образования и политику в отношении мошенничества. Согласно исследованию, студенты задают много одних и тех же вопросов. «Были комментарии о несоответствии политики, когда студентов наказывали за использование некоторых инструментов искусственного интеллекта, таких как ChatGPT, но поощряли использовать другие инструменты искусственного интеллекта, такие как Grammarly. Другие студенты предположили, что использование генеративного искусственного интеллекта для написания статьи не следует считать плагиатом, поскольку это оригинальная работа. ", - сказал Горичаназ. «Многие студенты пришли к тому же выводу, с которым боролись университеты: необходимость ответственно интегрировать технологии и выйти за рамки эссе для оценки обучения».
|
|
|
|
По мнению Горичаназа, исследование может сыграть важную роль, помогая колледжам и университетам донести до своих студентов информацию об использовании генеративной технологии искусственного интеллекта. «Хотя это относительно небольшая выборка, эти результаты по-прежнему полезны для понимания того, через что сейчас проходят студенты», — сказал он. «Ошибочное обвинение или постоянное подозрение в использовании искусственного интеллекта для мошенничества может стать мучительным опытом для студентов. Это может подорвать доверие, которое так важно для качественного образовательного опыта. Поэтому учебные заведения должны разработать последовательную политику и четко донести ее до студентов. и понять ограничения технологии обнаружения». Горичаназ отметил, что даже самые лучшие детекторы искусственного интеллекта могут дать достаточно ложных срабатываний, чтобы профессора могли ошибочно обвинить десятки студентов, что явно неприемлемо, учитывая ставки.
|
|
|
|
«Вместо того, чтобы пытаться использовать детекторы искусственного интеллекта для оценки достоверности этих оценок, преподавателям, возможно, лучше разработать различные виды оценок: те, которые уделяют больше внимания процессу, а не продукту, или более частые оценки с более низкими ставками», — написал он, а также предложил чтобы преподаватели могли добавлять модули по правильному использованию генеративной технологии искусственного интеллекта, а не полностью запрещать ее использование. Хотя исследование предлагает тематический анализ, Горичаназ предполагает, что будущие исследования могут расширить выборку до статистически значимого размера и извлечь ее из источников, выходящих за рамки англоязычных разговоров на Reddit.
|
|
|
|
Источник
|
