12.01.2025. - Галлюцинаторный ИИ помогает науке мечтать

Галлюцинаторный ИИ помогает науке мечтать

Искусственный интеллект часто критикуют за то, что он создает информацию, которая кажется достоверной, что называется галлюцинациями. Правдоподобные подделки вызвали не только разговоры чат-ботов, но и судебные иски и медицинские записи. В прошлом году заведомо ложное заявление нового чат-бота Google привело к снижению рыночной стоимости компании примерно на 100 миллиардов долларов.

Однако в мире науки новаторы обнаруживают, что галлюцинации с искусственным интеллектом могут быть чрезвычайно полезны. Оказывается, умные машины придумывают массу нереальных вещей, которые помогают ученым отслеживать рак, разрабатывать лекарства, изобретать медицинские устройства, выявлять погодные явления и даже получать Нобелевскую премию.

“Общественность считает, что все это плохо, - говорит Эми Макговерн, специалист по информатике, которая руководит федеральным институтом искусственного интеллекта. - Но на самом деле это дает ученым новые идеи. Это дает им возможность исследовать идеи, о которых они, возможно, и не подумали бы в противном случае”.

Публичный образ науки - это холодный анализ. Что менее заметно, ранние стадии открытия могут изобиловать догадками. “Все возможно” - так Пол Фейерабенд, философ науки, однажды охарактеризовал принцип "свободы для всех".

Теперь галлюцинации с искусственным интеллектом активизируют творческую сторону науки. Они ускоряют процесс, с помощью которого ученые и изобретатели придумывают новые идеи и проверяют их на соответствие реальности. Это научный метод, только с наддувом. То, на что раньше уходили годы, теперь можно сделать за дни, часы и минуты. В некоторых случаях ускоренные циклы исследований помогают ученым открывать новые горизонты.

“Мы исследуем”, - сказал Джеймс Джей Коллинз, профессор МТИ, который недавно похвалил "галлюцинации" за ускорение его исследований в области новых антибиотиков. “Мы просим модели разработать совершенно новые молекулы”.

Галлюцинации искусственного интеллекта возникают, когда ученые обучают генеративные компьютерные модели определенному предмету, а затем позволяют машинам переработать эту информацию. Результаты могут варьироваться от едва уловимых и ошибочных до сюрреалистических. Иногда они приводят к крупным открытиям.

В октябре Дэвид Бейкер из Вашингтонского университета разделил Нобелевскую премию по химии за свои новаторские исследования белков — сложных молекул, которые питают жизнь. Нобелевский комитет похвалил его за открытие способа быстрого получения совершенно новых видов белков, не встречающихся в природе, назвав его подвиг “почти невозможным”.

В интервью перед объявлением премии доктор Бейкер назвал всплески воображения ИИ основой для “создания белков с нуля”. Он добавил, что новая технология помогла его лаборатории получить около 100 патентов, многие из которых касаются медицины. Одна из них посвящена новому способу лечения рака. Другая направлена на содействие глобальной борьбе с вирусными инфекциями. Доктор Бейкер также основал или помог основать более 20 биотехнологических компаний.

“События развиваются быстро”, - сказал он. “Даже ученые, зарабатывающие на жизнь белками, не знают, как далеко продвинулись исследования”. Сколько белков разработала его лаборатория? “Десять миллионов — и все совершенно новые”, - ответил он. - Они не встречаются в природе.

Несмотря на привлекательность ИИ-галлюцинаций для открытия, некоторые ученые считают, что само это слово вводит в заблуждение. Они рассматривают представления о генеративных моделях искусственного интеллекта не как иллюзорные, а как перспективные — как имеющие некоторый шанс сбыться, в отличие от предположений, сделанных на ранних стадиях развития научного метода. Они считают термин "галлюцинация" неточным и поэтому избегают его использования.

К этому слову также относятся неодобрительно, потому что оно может вызвать воспоминания о старых добрых временах галлюцинаций от ЛСД и других психоделических препаратов, которые десятилетиями отпугивали уважаемых ученых. Последним недостатком является то, что научные и медицинские сообщения, генерируемые ИИ, могут, как и ответы чат-ботов, быть искажены ложной информацией.

В июле Белый дом опубликовал доклад о повышении общественного доверия к исследованиям ИИ. Единственное упоминание о галлюцинациях в нем касалось поиска способов их уменьшения.

Комитет по присуждению Нобелевской премии, похоже, последовал этому сценарию. В подробном обзоре работы доктора Бейкера ничего не говорилось об ИИ-галлюцинациях. Вместо этого в пресс-релизе просто говорилось, что его команде удалось создать “одно фантастическое белковое творение за другим”. Похоже, что некоторые представители научного истеблишмента все чаще считают, что о галлюцинациях нельзя упоминать.

Тем не менее, эксперты говорили в интервью, что фантазии научного ИИ имеют серьезные преимущества по сравнению с галлюцинациями чат-ботов и им подобных. По их словам, в основе творческих всплесков лежат неопровержимые факты природы и науки, а не двусмысленность человеческого языка или размытость Интернета, известного своими предубеждениями и ложью.

“Мы обучаем физике искусственного интеллекта”, - говорит Анима Анандкумар, профессор математики и компьютерных наук Калифорнийского технологического института, которая ранее руководила исследованиями в области искусственного интеллекта в Nvidia, ведущем производителе чипов искусственного интеллекта.

Для науки, добавила доктор Анандкумар, физическая основа, основанная на достоверных фактах, может привести к высокоточным результатам. Она сказала, что большие языковые модели чат-ботов не имеют практического способа проверить правильность их заявлений и утверждений.

По ее словам, окончательная проверка заключается в том, что ученые сравнивают цифровые фантазии с конкретными данными физической реальности.

“Вам нужно это проверить”, - сказал доктор Анандкумар о результатах искусственного интеллекта. “Что-то новое, разработанное ИИ ”Галлюцинации", требует тестирования".

Недавно доктор Анандкумар и ее коллеги использовали искусственный интеллект (ИИ—галлюцинации) для разработки нового типа катетера, который значительно снижает бактериальное загрязнение - глобальное бедствие, ежегодно вызывающее миллионы инфекций мочевыводящих путей. Она сказала, что модель искусственного интеллекта, разработанная командой, просчитала многие тысячи геометрий катетеров, а затем выбрала ту, которая оказалась наиболее эффективной.

Внутренние стенки нового катетера покрыты пилообразными шипами, которые препятствуют проникновению бактерий вверх по течению и заражению мочевого пузыря пациентов. Доктор Анандкумар сказал, что команда обсуждает коммерциализацию устройства.

Как и другие ученые, доктор Ананд Кумар сказала, что ей не нравится термин "галлюцинация". В статье ее команды о новом катетере это слово избегается.

С другой стороны, Харини Вирарагхаван, руководитель лаборатории Мемориального онкологического центра Слоана Кеттеринга в Манхэттене, привела этот термин в статье об использовании искусственного интеллекта для повышения четкости размытых медицинских изображений. Название, в частности, гласит: “МРТ с галлюцинациями”, сокращение от магнитно-резонансной томографии.

Исследователи из Техасского университета в Остине также используют этот термин. “Учимся на галлюцинациях” - так называется их статья об улучшении навигации роботов.

А глава научного подразделения DeepMind, лондонской компании Google, разрабатывающей приложения для искусственного интеллекта, похвалил галлюцинации за то, что они способствуют открытиям, сделав это вскоре после того, как двое его коллег разделили Нобелевскую премию по химии этого года с доктором Бейкером.

“У нас есть этот удивительный инструмент, который может проявить творческий подход”, - сказал Пушмит Кохли, представитель DeepMind, в интервью.

В качестве примера, по его словам, можно привести то, как компьютер DeepMind в 2016 году обыграл чемпиона мира по сложной настольной игре Го. Поворотным моментом в игре стал 37-й ход, то есть довольно раннее начало состязания. “Мы думали, что это была ошибка”, - сказал доктор Кохли. “И по ходу игры люди поняли, что это был гениальный ход. Таким образом, эти модели способны генерировать совершенно новые идеи”.

Доктор Макговерн, директор института искусственного интеллекта, также является профессором метеорологии и компьютерных наук в Университете Оклахомы. Она сказала, что галлюцинации искусственного интеллекта можно описать не так красочно, как “распределение вероятностей” — очень старый термин в мире науки.

Специалисты по прогнозированию погоды, добавила доктор Макговерн, теперь регулярно используют искусственный интеллект для создания тысяч тонких вариаций прогноза или диапазонов вероятности. Она сказала, что богатое воображение позволяет им обнаруживать неожиданные факторы, которые могут привести к экстремальным явлениям, таким как аномальная жара. “Это ценный инструмент”, - сказал доктор Макговерн.

Доктор Бейкер, недавний лауреат Нобелевской премии, придерживается подхода Фрэнка. “Создание белка De novo с помощью галлюцинации deep network” - таково название одной из его статей, опубликованной в 2021 году в ведущем научном журнале Nature.

Фраза de novo, что в переводе с латыни означает “с самого начала”, резко контрастирует с тем, как ученые в начале 1980—х годов начали изменять структуры известных белков, встречающихся в природе.

В 2003 году доктор Бейкер и его коллеги достигли гораздо более амбициозной цели: создали первый в мире совершенно новый белок с нуля. Они назвали его Top7. Их достижение было расценено как значительный прогресс, поскольку белки - это суперзвезды по своей сложности. Эксперты сравнивают структуру ДНК с ниткой жемчуга, а структуру крупных белков - с комками шерсти. Их структура настолько сложна, что даже подробные графические изображения являются грубыми приближениями.

Когда искусственный интеллект превратился в новую мощную технологию, доктор Бейкер задался вопросом, может ли это ускорить создание новых дизайнов. В своей статье в Nature, опубликованной в 2021 году, он ссылался на Google DeepDream — модель, которая превращает существующие изображения в психоделию. Когда люди смотрят на полную луну и видят мужское лицо, это называется парейдолия, особенность восприятия, которая превращает двусмысленные образы в осмысленные. Одна из разновидностей этой тенденции используется DeepDream для создания своих сюрреалистических фантазий.

План доктора Бейкера состоял в том, чтобы выяснить, может ли искусственный интеллект применить эффект парейдолии к неоднозначным наборам аминокислот, строительных блоков белков. Его команда вводила случайные последовательности аминокислот в модель, обученную распознавать структурные особенности реальных белков. Это сработало — с лихвой.

В статье говорилось, что в ходе тестирования были созданы тысячи виртуальных белков. Авторы сравнили их с огромным количеством изображений искусственного интеллекта в Интернете. “Точно так же, как в смоделированных изображениях кошек, сгенерированных с помощью галлюцинации deep network, можно безошибочно распознать кошек”, - говорится в статье, - “Искусственные белковые структуры”напоминают естественные структуры, но не идентичны им".

Затем команда Бейкера попыталась превратить воображаемые белки в реальные — шаг, мало чем отличающийся от воплощения в жизнь цифровых кошек. Сначала команда взяла информацию о воображаемых молекулах и использовала ее в качестве основы для создания цепочек ДНК, которые формируют гены. Затем, как сообщалось в статье за 2021 год, наступил момент эврики, когда гены были внедрены в микробы, и крошечные организмы произвели 129 новых видов белков, неизвестных науке и природе.

Позже, в начале 2022 года, доктор Бейкер описал этот момент как “первую демонстрацию” того, как Искусственный интеллект может ускорить разработку белка de novo. В его последующих статьях за 2022 и 2023 годы в названиях снова использовалось слово "галлюцинация".

В интервью доктор Бейкер сказал, что его лаборатория сделала новый шаг вперед в области творческого воображения, разработав метод искусственного интеллекта, известный как диффузия. Именно на этом основаны DALL-E, Sora и другие популярные генераторы визуальных эффектов.

Доктор Бейкер похвалил диффузию за то, что она помогает создавать новые белковые конструкции лучше, чем галлюцинации. “Это намного быстрее, и вероятность успеха выше”, - сказал он.

В последние годы некоторые аналитики обеспокоены тем, что наука находится в упадке. Они указывают на сокращение за последние десятилетия числа прорывов и крупных открытий.

Сторонники A.I. утверждают, что на помощь приходят всплески креативности. На горизонте дизайна доктор Бейкер и его коллеги видят волны белковых катализаторов, которые будут собирать энергию солнечного света, превращать старые фабрики в современные энергосберегающие устройства и помогать создавать новый устойчивый мир.

“Ускорение продолжается”, - сказал Ян К. Хейдон, член команды доктора Бейкера. “Это невероятно".

Другие согласны с этим. “Удивительно, что станет известно в ближайшие несколько лет”, - сказал доктор Кохли. Он считает, что искусственный интеллект раскрывает глубочайшие секреты жизни и создает новую мощную основу для лечения болезней, улучшения здоровья и продления жизни.

“Как только мы расшифруем и по-настоящему поймем язык жизни, - сказал он, - это будет волшебно”.

Источник