|
Разработчики и преподаватели по-разному оценивают вред ИИ
|
|
|
|
Учителя все чаще используют образовательные инструменты, которые используют большие языковые модели (LLM), такие как ChatGPT, для планирования уроков, персонализированного обучения и многого другого в классах K-12 по всему миру.
|
|
|
|
Исследователи из Корнелла обнаружили, что разработчики таких инструментов и преподаватели, которые их используют, имеют разные представления о потенциальном вреде, который они могут причинить, и это открытие, по словам исследователей, подчеркивает необходимость более активного участия преподавателей в разработке этих инструментов.
|
|
|
|
"Образовательные технологии должны быть в центре внимания педагогов, и для этого исследователям, поставщикам образовательных технологий, руководителям школ и политикам необходимо объединиться и принять меры для снижения потенциального вреда от использования LLM в образовании", - сказала Эмма Харви, докторант в области информационных наук и ведущий автор книги "Дон"не забывайте об учителях": К ориентированному на педагога пониманию вреда, который наносят большие языковые модели в образовании".
|
|
|
|
Статья была представлена 28 апреля на конференции Ассоциации вычислительной техники по человеческому фактору в вычислительных системах (CHI 2025) в Иокогаме, Япония, где она получила награду за лучшую работу. Он опубликован в сборнике материалов конференции CHI 2025 года по человеческому фактору в вычислительных системах.
|
|
|
|
|
|
|
Ее соавторами являются Эллисон Кенеке, доцент кафедры информатики, и Рене Кизилчек, доцент кафедры информатики, оба из Корнеллского колледжа вычислительной техники и информатики имени Энн С. Бауэрс.
|
|
|
|
"Этот вред не обязательно является типичным для LLM, о котором мы слышим, например, предвзятость или галлюцинации", - сказал Харви. "Это более широкий набор социотехнических проблем".
|
|
|
|
Харви и ее коллеги взяли интервью у шести администраторов и разработчиков из компаний, занимающихся образовательными технологиями (или "edtech"), и почти двух десятков преподавателей, которые ориентируются на растущее использование в школах программ LLM на базе искусственного интеллекта.
|
|
|
|
Исследователи обнаружили, что разработчики из этих компаний, как правило, уделяют большую часть своего времени и энергии решению технических задач, таких как предотвращение галлюцинаций, нарушений конфиденциальности или токсичного контента, которые иногда создают LLM.
|
|
|
|
Между тем, педагогов больше беспокоили более широкие последствия использования этих инструментов, такие как торможение развития навыков критического мышления учащихся, препятствие социальному развитию учащихся, увеличение рабочей нагрузки на преподавателей и усиление системного неравенства, поскольку неблагополучные школьные округа могут быть не в состоянии приобрести лицензии на использование этих инструментов или перейти на другую работу. финансирование за счет других ресурсов для их лицензирования - это лишь некоторые из них.
|
|
|
|
Они были менее обеспокоены техническими проблемами; они заявили, что знают, как их обойти.
|
|
|
|
"Я заметил, что по мере того, как учащиеся лучше разбираются в технологиях, они также склонны утрачивать навык критического мышления. Потому что они могут просто спрашивать ответы", - сказал один из преподавателей.
|
|
|
|
"Трудно чувствовать, что это справедливо или что это будет использовано на благо общества, если это доступно только в том случае, если ваш округ сможет заплатить за это", - сказал другой.
|
|
|
|
По словам Харви, хорошим шагом на пути к совершенствованию этих образовательных технологий является устранение несоответствия между тем, что разработчики и преподаватели считают потенциально вредным.
|
|
|
|
Исследователи сформулировали четыре рекомендации, призванные облегчить разработку edtech-технологий, ориентированных на преподавателя:
|
|
|
|
- Компаниям следует разработать инструменты, которые позволят преподавателям еще больше возможностей задавать вопросы и корректировать то, что выдают магистранты.;
|
|
- Регулирующие органы — как государственные, так и некоммерческие — должны разработать централизованные, четкие и независимые обзоры образовательных технологий на базе LLM;
|
|
- Исследователи и разработчики образовательных технологий должны изучить способы сделать эти инструменты более удобными для преподавателей, которые их используют; и
|
|
- При рассмотрении руководством школьного округа вопроса о внедрении таких инструментов следует отдавать приоритет вкладу педагогов. Кроме того, педагогов не следует наказывать, если они решат не использовать инструменты, разработанные на базе LLM в их школах.
|
|
|
|
"Поставщики образовательных технологий тратят много времени на снижение вероятности возникновения галлюцинаций у студентов магистратуры", - сказал Харви. "Наши результаты показывают, что они также могли бы разработать инструменты, позволяющие преподавателям вмешиваться в случаи возникновения галлюцинаций и исправлять неправильные представления учащихся с помощью своей практики преподавания. Это может высвободить время для того, чтобы сосредоточиться на смягчении других видов ущерба".
|
|
|
|
Исследовательская группа надеется, что их выводы будут способствовать более активному диалогу между разработчиками edtech-систем и преподавателями, которые их используют, сказала Кенеке.
|
|
|
|
"Потенциальный вред от LLMS выходит далеко за рамки технических проблем, которые обычно оцениваются исследователями машинного обучения", - сказала она. "Мы должны быть готовы к изучению серьезных, трудно поддающихся измерению социальных последствий, связанных с использованием LLM в классе".
|
|
|
|
Источник
|
