Популярность искусственного интеллекта (ИИ) стремительно растет. Он управляет моделями, которые помогают нам управлять транспортными средствами, проверять электронную почту и даже разрабатывать новые молекулы для лекарств. Но, как и человеку, трудно читать мысли ИИ.
Объяснимый искусственный интеллект (XAI), часть технологии, может помочь нам в этом, обосновывая решения модели. И теперь исследователи используют XAI не только для более тщательного изучения прогнозирующих моделей искусственного интеллекта, но и для более глубокого изучения области химии.
Исследователи представят свои результаты на осеннем собрании Американского химического общества.
Огромное количество применений ИИ сделало его практически повсеместным в современном технологическом ландшафте. Однако многие модели ИИ представляют собой "черные ящики", а это означает, что неясно, какие именно шаги предпринимаются для получения результата. И когда в результате получается что-то вроде потенциальной молекулы лекарственного средства, непонимание этапов может вызвать скептицизм как у ученых, так и у общественности.
"Как ученые, мы ценим обоснованность", - объясняет Ребекка Дэвис, профессор химии в Университете Манитобы. "Если мы сможем разработать модели, которые помогут получить некоторое представление о том, как искусственный интеллект принимает свои решения, это потенциально может помочь ученым освоиться с этими методологиями".
Одним из способов такого обоснования является использование XAI. Эти алгоритмы машинного обучения могут помочь нам заглянуть за кулисы принятия решений с помощью искусственного интеллекта. Хотя XAI может применяться в самых разных контекстах, исследования Дэвиса сосредоточены на применении его к моделям искусственного интеллекта для разработки лекарств, например, для прогнозирования новых антибиотиков-кандидатов.
Учитывая, что тысячи молекул—кандидатов могут быть проверены и отклонены для утверждения всего лишь одного нового лекарственного средства, а устойчивость к антибиотикам является постоянной угрозой эффективности существующих лекарств, точные и эффективные модели прогнозирования имеют решающее значение.
"Я хочу использовать XAI, чтобы лучше понять, какая информация нам нужна для обучения компьютерной химии", - говорит Хантер Штурм, аспирант химического факультета лаборатории Дэвиса, который представляет свою работу на встрече.
Исследователи начали свою работу с того, что ввели базы данных известных молекул лекарственных средств в модель искусственного интеллекта, которая предсказывала бы, окажет ли то или иное соединение биологический эффект. Затем они использовали модель XAI, разработанную сотрудником немецкого технологического института Карлсруэ Паскалем Фридерихом, для изучения специфических частей молекул лекарств, которые привели к прогнозированию модели.
Это помогло объяснить, почему та или иная молекула обладает активностью или нет, в соответствии с моделью, и это помогло Дэвису и Штурму понять, что модель искусственного интеллекта может счесть важным и как она создает категории после изучения множества различных соединений.
Исследователи поняли, что XAI может видеть то, что люди, возможно, пропустили; он может учитывать гораздо больше переменных и точек данных одновременно, чем человеческий мозг. Например, при скрининге набора молекул пенициллина XAI обнаружил кое-что интересное.
"Многие химики считают, что ядро пенициллина является критическим участком для антибиотической активности", - говорит Дэвис. "Но это не то, что увидел XAI". Вместо этого он определил структуры, прикрепленные к ядру, как критический фактор в его классификации, а не само ядро.
"Возможно, именно поэтому некоторые производные пенициллина с таким ядром проявляют низкую биологическую активность", - объясняет Дэвис.
В дополнение к выявлению важных молекулярных структур, исследователи надеются использовать XAI для улучшения прогнозирующих моделей искусственного интеллекта. "XAI показывает нам, что компьютерные алгоритмы определяют как важное для активности антибиотиков", - объясняет Штурм.
"Затем мы можем использовать эту информацию для обучения ИИ-модели тому, что она должна искать", - добавляет Дэвис.
Затем команда будет сотрудничать с микробиологической лабораторией для синтеза и тестирования некоторых соединений, которые, по прогнозам улучшенных моделей ИИ, будут работать в качестве антибиотиков. В конечном счете, они надеются, что XAI поможет химикам создать более совершенные или, возможно, совершенно другие антибиотические соединения, которые могли бы помочь остановить волну устойчивых к антибиотикам патогенов.
"ИИ вызывает у людей большое недоверие и неуверенность. Но если мы сможем попросить ИИ объяснить, что он делает, то вероятность того, что эта технология будет принята, возрастет", - говорит Дэвис.
Штурм добавляет, что, по его мнению, применение искусственного интеллекта в химии и разработке лекарств - это будущее этой области. "Кто-то должен заложить фундамент. Я надеюсь, что именно это я и делаю".
