|
ИИ может представлять опасность для студентов
|
|
|
|
Генеративный искусственный интеллект (ИИ) обучается распознавать закономерности на огромных массивах текста, видео и изображений. Затем он создает новые тексты, видео и изображения на основе этой идентификации. Благодаря машинному обучению он улучшает свои возможности при каждом использовании.
|
|
|
|
По мере того как ИИ внедряется в академическую жизнь, возникает тревожная реальность: студенты чрезвычайно уязвимы к его использованию. Они недостаточно знают о том, что такое ИИ, чтобы обращать внимание на его недостатки. И они недостаточно разбираются в содержании своего предмета, чтобы выносить суждения по этому поводу. Самое главное, они не знают того, чего не знают они сами.
|
|
|
|
Как два ученых, занимающихся преподаванием в высших учебных заведениях, мы утверждаем, что в современном мире искусственного интеллекта студентов подстерегают четыре основные опасности. Они являются:
|
|
|
|
- слепое доверие к его способностям
|
|
- использование его для ускорения реального обучения
|
|
- не зная, как это работает
|
|
- увековечивая разрыв между экспертизой и некритичным, но уверенным в себе шумом.
|
|
|
|
Учитывая наш опыт ученых, которые разрабатывают учебные планы для студентов и исследуют генеративный искусственный интеллект, мы считаем, что университеты могут сделать три вещи. Они должны обучать критической грамотности в области ИИ, подчеркивать важность развития знаний и объяснять студентам, почему важно быть экспертом, если они хотят эффективно взаимодействовать с ИИ.
|
|
|
|
|
|
|
Четыре опасности
|
|
|
|
Слепое доверие к ложной уверенности ИИ. Недавний отчет Microsoft показал, что те, кто меньше всего разбирается в теме, с большей вероятностью примут результаты ИИ за правильные. Генерирующие программы ИИ, такие как ChatGPT и Claude, создают текст с поразительной уверенностью. Студенты, не обладающие знаниями в данной области, не могут определить, когда эти системы полностью неверны.
|
|
|
|
Заголовки уже демонстрируют последствия этого на рабочем месте: юристы представляют сфабрикованные цитаты из дел, сгенерированные с помощью ИИ, а больницы используют инструменты расшифровки ИИ, которые выдумывают заявления, которых на самом деле никогда не было.
|
|
|
|
Генеративный ИИ может ошибаться, потому что он ничего не понимает в человеческом понимании этого слова. Но он может выявлять и воспроизводить шаблоны с поразительной изощренностью. Эти шаблоны включают в себя не только слова и идеи, но также интонацию и стиль.
|
|
|
|
Не учитывается сила образования. Основная цель высшего образования - дать студентам новый способ понимания мира и своего места в нем. Когда студенты используют искусственный интеллект таким образом, чтобы избежать интеллектуальных проблем, они упускают эту существенную трансформацию.
|
|
|
|
Когда студенты просто передают свое мышление на аутсорсинг ИИ, они получают дипломы без компетентности. Они могут получить высшее образование со степенями, но без знаний и опыта.
|
|
|
|
Ловушка ложной уверенности. Даже студенты, которые начинают критически относиться к ограничениям ИИ, сталкиваются с тем, что Пунья Мишра, профессор-инженер по обучению в Университете штата Аризона, называет "ловушкой ложной уверенности". Они могут осознавать, что ИИ может создавать ошибки, но им не хватает знаний по предмету, чтобы исправить эти ошибки.
|
|
|
|
Как выразился Мишра: "Это все равно, что иметь универсальный детектор лжи, но не иметь возможности отделить правду от вымысла".
|
|
|
|
Это создает опасную полумеру, когда студенты признают, что ИИ несовершенен, но не могут эффективно оценить его результаты.
|
|
|
|
Увековечивая пробел в знаниях. Поскольку ИИ становится повсеместным явлением на рабочих местах, разрыв между теми, кто обладает подлинным опытом, и теми, кто полагается исключительно на ИИ, будет увеличиваться. Студенты, которые еще не сформировали свой собственный фундамент знаний, будут все более маргинализированы в мире, который, как это ни парадоксально, ценит человеческий опыт не меньше, а больше по мере развития искусственного интеллекта.
|
|
|
|
Ответы.
|
|
|
|
Университеты могут предпринять три шага.
|
|
|
|
Интегрируйте критическую грамотность в области искусственного интеллекта. Учащиеся должны понимать, как работает генеративный ИИ — как ИИ обучается на основе огромных баз данных текстов и изображений, созданных человеком, чтобы выявлять закономерности, по которым можно создавать новые результаты.
|
|
|
|
Одного курса "Введение в искусственный интеллект" недостаточно. Каждая дисциплина должна показать студентам, как искусственный интеллект пересекается с их областью деятельности, и, что наиболее важно, дать им возможность задуматься об этических последствиях его использования. Это включает в себя ответы на вопросы, связанные с использованием защищенных авторским правом материалов для обучения генеративному ИИ, предвзятостью, присущей текстам и изображениям, созданным с помощью ИИ, и огромными экологическими издержками использования ИИ.
|
|
|
|
Уделяйте особое внимание развитию знаний. Высшие учебные заведения должны активно бороться с мнением, что университет - это всего лишь предоставление дипломов. Мы должны помочь студентам понять ценность приобретения знаний в определенной области. Это не всегда очевидно для тех студентов, которые понимают высшее образование только как средство получения работы, которое побуждает их использовать знания инструменталистским образом - и, таким образом, использовать искусственный интеллект таким образом, чтобы избежать вовлечения в сложные идеи. Именно личные отношения со знаниями подготовят их к будущему, в котором искусственный интеллект будет повсюду. Пропаганда силы знаний должна стать центральной частью должностной инструкции каждого преподавателя.
|
|
|
|
Моделируйте двойную компетентность. Преподавателям следует моделировать то, что Мишра называет "вызовом двойной компетентности" — сочетание знаний в предметной области с критической грамотностью в области искусственного интеллекта. Это означает демонстрацию студентам того, как эксперты взаимодействуют с ИИ: анализируют его результаты на основе устоявшихся знаний, выявляют предубеждения или пробелы и используют ИИ как инструмент для повышения квалификации человека, а не для его замены.
|
|
|
|
По мере того как ИИ становится все более совершенным, ценность человеческого опыта только возрастает. Университеты, которые готовят студентов к критическому взаимодействию с ИИ, развивая глубокие знания в предметной области, выпускают специалистов, которые нужны обществу в условиях быстро меняющегося технологического ландшафта.
|
|
|
|
У нас есть работа, но опыт по-прежнему высоко ценится.
|
|
|
|
Источник
|
