|
Эксперименты с ИИ важны для нашего коллективного обучения
|
|
|
|
Инструменты генеративного искусственного интеллекта (GenAI), такие как ChatGPT, основанные на моделях большого языка (LLM), меняют способы нашего мышления, обучения и работы. Но, как и некоторые другие формы ИИ, технологии GenAI имеют природу «черного ящика», а это означает, что трудно объяснить и понять, как математические модели вычисляют результаты. Если мы, как общество, хотим широко использовать эту новую технологию, нам нужно будет принять участие в процессе коллективных открытий, чтобы лучше понять, как она работает и на что она способна. Пока эксперты по ИИ работают над тем, чтобы сделать системы ИИ более понятными для конечных пользователей, а OpenAI, создатель ChatGPT, справляется со сменой руководства и вопросами о своем стратегическом направлении, высшие учебные заведения должны сыграть решающую роль в обеспечении коллективного изучения GenAI. Для систем искусственного интеллекта, основанных на больших нейронных сетях с природой «черного ящика», таких как GenAI, отсутствие прозрачности мешает людям доверять искусственному интеллекту и полагаться на него в конфиденциальных приложениях.
|
|
|
|
Профессор Университета Карнеги-Меллон Элизабет А. Холм утверждает, что ИИ «черного ящика» по-прежнему могут быть ценными, если они дают лучшие результаты, чем альтернативы, если цена неправильных ответов низка или если они вдохновляют на новые идеи. Тем не менее, случаи, когда дела пошли ужасно неправильно, подрывают доверие, например, когда ChatGPT обманом заставили дать инструкции по изготовлению бомбы или когда он обвинил профессора права в серьезном преступлении, которого он не совершал. Вот почему исследователи, работающие над объяснимостью ИИ, пытались разработать методы, позволяющие заглянуть в черный ящик нейронных сетей. Однако программы LLM, лежащие в основе многих инструментов GenAI, слишком велики и сложны, чтобы эти методы могли работать. К счастью, у LLM, таких как ChatGPT, есть интересная особенность, которой не было у предыдущих нейронных сетей «черного ящика»: они интерактивны. Подумайте об этом так: мы не можем понять, о чем думает человек, глядя на карту нейронов его мозга, но мы можем с ним поговорить. Появляется новая область науки под названием «машинная психология», призванная понять, как на самом деле «думают» выпускники магистратуры.
|
|
|
Новое исследование, еще не прошедшее рецензирование, изучает, как эти модели могут удивить нас своими новыми возможностями. Например, исследователи предположили, что, поскольку при использовании LLM каждое новое генерируемое слово зависит от последовательности слов, которые были до него, обращение к LLM для решения проблемы шаг за шагом может дать лучшие результаты. Новые исследования, еще не прошедшие рецензирование, по этой технике «цепочки мыслей» и ее вариациям показали, что они улучшают результаты. Другие предполагают, что выпускниками LLM можно «эмоционально манипулировать», включая такие фразы, как «вы уверены?» или «верить в свои способности» в подсказках. Исследователи Google DeepMind недавно обнаружили, что, используя интересную комбинацию этих двух методов, для ряда математических задач один LLM значительно улучшил точность, когда ему было предложено «сделать глубокий вдох и работать над этой проблемой шаг за шагом».
|
|
|
|
Пониманием GenAI занимаются не только исследователи, и это хорошо. Новые открытия, сделанные пользователями, удивили даже создателей этих инструментов, одновременно восхитительно и тревожно. Пользователи делятся своими открытиями и подсказками в онлайн-сообществах, таких как Reddit, Discord, а также на специализированных платформах, таких как FlowGPT. Эти подсказки часто включают в себя подсказки «побег из тюрьмы», которые позволяют заставить инструменты GenAI вести себя не так, как они должны. Люди могут обманом заставить ИИ обойти встроенные правила (например, создать контент, разжигающий ненависть), или создать вредоносное ПО. Именно эти быстрые успехи и удивительные результаты стали причиной того, что в начале этого года некоторые лидеры в области ИИ призвали ввести шестимесячный мораторий на разработку ИИ. В высшем образовании не рекомендуется использовать чрезмерно оборонительный подход, подчеркивающий недостатки и слабости GenAI или то, как он позволяет студентам обманывать. Напротив, когда рабочие начнут видеть преимущества сотрудников, использующих GenAI, или производительность труда, они будут ожидать, что высшее образование подготовит студентов. Образование студентов должно быть актуальным.
|
|
|
|
Университеты являются идеальным местом для налаживания сотрудничества в различных областях исследований, что является императивом разработки ответственного ИИ. Университеты, в отличие от частного сектора, имеют наилучшие возможности для внедрения своих практик и содержания GenAI в рамки этической и ответственной практики. Это влечет за собой понимание ГенИИ как дополнения, а не замены человеческого суждения, и умение различать, когда полагаться на него допустимо и приемлемо. Обучение GenAI включает в себя развитие навыков критического мышления и проверки фактов, а также оперативное этическое проектирование. Это также предполагает понимание того, что инструменты GenAI не просто повторяют данные обучения, а могут генерировать новые высококачественные идеи на основе закономерностей в этих данных. Краткое руководство ЮНЕСКО по ChatGPT и искусственному интеллекту для высшего образования является полезной отправной точкой. Включение GenAI в учебную программу нельзя рассматривать как преподавание сверху вниз. Учитывая быстрое развитие и новизну технологии, многие студенты уже опережают профессоров в своих знаниях и навыках GenAI.
|
|
|
|
Мы должны признать это как эпоху коллективных открытий, когда мы все учимся друг у друга. В курсе «Генераторный искусственный интеллект и подсказки», предлагаемом в Школе бизнеса Хаскейн Университета Калгари, часть оценок присваивается за публикации, комментарии и голосование на онлайн-форуме открытий, где можно поделиться своими открытиями и экспериментами. Наконец, мы должны научиться использовать GenAI для решения величайших проблем человечества, таких как изменение климата, бедность, болезни, международные конфликты и системная несправедливость. Учитывая мощный характер этой технологии и тот факт, что мы не до конца понимаем ее из-за ее природы черного ящика, мы должны делать все возможное, чтобы понять ее посредством взаимодействия и обучения, действуя и экспериментируя. Это не усилия, которые можно ограничить работами специализированных исследователей или компаний, занимающихся искусственным интеллектом. Это требует широкого участия.
|
|
|
|
Источник
|
