|
Черный ящик процесса принятия решений ИИ
|
|
|
|
Западные исследователи разработали новую методику, использующую математику для точного понимания того, как нейронные сети принимают решения — широко признанный, но плохо изученный процесс в области машинного обучения.
|
|
|
|
Многие современные технологии, от цифровых помощников, таких как Siri и ChatGPT, до медицинской визуализации и самоуправляемых автомобилей, основаны на машинном обучении. Однако нейронные сети — компьютерные модели, вдохновленные человеческим мозгом, — лежащие в основе этих систем машинного обучения, было трудно понять, за что исследователи иногда называли их "черными ящиками".
|
|
|
|
"Мы создаем нейронные сети, которые могут выполнять конкретные задачи, а также позволяют нам решать уравнения, управляющие работой сетей", - сказал Лайл Мюллер, профессор математики и директор лаборатории сетевых наук Western's Fields, входящей в недавно созданный Центр сотрудничества Fields-Western. "Это математическое решение позволяет нам "открыть черный ящик", чтобы точно понять, как сеть делает то, что она делает".
|
|
|
|
Результаты были опубликованы в журнале PNAS в сотрудничестве с международными исследователями, включая Макса Веллинга, заведующего кафедрой машинного обучения Амстердамского университета.
|
|
|
|
|
|
|
"Видеть вещи", разбивая изображения на части
|
|
|
|
Западная команда, в которую входили Мюллер, аспиранты Луиза Либони и Роберто Будзински, а также аспирант Алекс Буш, впервые продемонстрировали это новое достижение в задаче под названием сегментация изображений - фундаментальном процессе компьютерного зрения, при котором системы машинного обучения разделяют изображения на отдельные части, например, отделяют объекты на изображении от фона.
|
|
|
|
Начав с простых геометрических фигур, таких как квадраты и треугольники, они создали нейронную сеть, которая могла сегментировать эти базовые изображения.
|
|
|
|
Затем Мюллер и его коллеги использовали математический подход, который они ранее разработали для изучения других сетей, чтобы исследовать, как новая сеть выполняет задачу сегментации при анализе этих простых изображений.
|
|
|
|
Математический подход позволил команде точно понять, как происходит каждый шаг вычислений. Несколько удивительно, но затем команда обнаружила, что сеть также может сегментировать — или видеть и интерпретировать — несколько естественных изображений, таких как фотографии белого медведя, идущего по снегу, или птицы в дикой природе.
|
|
|
|
"Упростив процесс для получения математической информации, мы смогли создать сеть, которая была более гибкой, чем предыдущие подходы, а также хорошо работала с новыми входными данными, которых она никогда не видела", - сказал Мюллер, сотрудник Западного института неврологии.
|
|
|
|
"Что особенно интересно, так это то, что это только начало, поскольку мы считаем, что наше математическое понимание может быть полезным далеко за пределами этого первого примера".
|
|
|
|
Результаты работы выходят за рамки обработки изображений.
|
|
|
|
В соответствующем исследовании, опубликованном в журнале Communications Physics в 2024 году, Мюллер и его команда разработали аналогичную "объяснимую" сеть, которая могла бы выполнять различные задачи, от базовых логических операций до безопасной передачи сообщений и функций памяти.
|
|
|
|
В рамках другого сотрудничества с профессором физиологии и фармакологии Ватару Иноуэ и его исследовательской группой из Schulich School of Medicine & Dentistry они даже успешно подключили свою сеть к живой клетке мозга, создав гибридную систему, которая объединяет искусственные и биологические нейронные сети.
|
|
|
|
"Такое фундаментальное понимание имеет решающее значение, поскольку мы продолжаем разрабатывать более сложные системы искусственного интеллекта, которым мы можем доверять и на которые можно положиться", - сказал Будзински, аспирант Филдсовской лаборатории сетевых наук.
|
|
|
|
Источник
|
