|
ИИ ChatGPT расскажет как язык устроен в человеческом мозге
|
|
|
|
Точно так же, как ChatGPT и другие модели порождающего языка тренируются на человеческих текстах для создания грамматически правильных предложений, новый метод моделирования, разработанный исследователями из университета Пенсильвании, тренируется на записях птиц для создания точных птичьих трелей. По словам команды, результаты могут улучшить понимание структуры птичьего пения и лежащей в его основе нейробиологии, что может дать представление о нейронных механизмах человеческого языка. Статья, описывающая исследование, была недавно опубликована в журнале Neuroscience.
|
|
|
|
Подобно тому, как люди выстраивают слова в определенном порядке, чтобы сформировать грамматически правильное предложение, птицы, как правило, поют наборы нот, называемые слогами, в ограниченном количестве комбинаций.
|
|
|
|
"Несмотря на то, что последовательность слогов птичьей песни намного проще, она организована аналогично человеческому языку, поэтому птицы представляют собой хорошую модель для изучения нейробиологии языка", - сказал Деж Джин, доцент физики в научном колледже Эберли и ведущий автор статьи.
|
|
|
|
Как у людей, так и у птиц окончание предложения или последовательности исполнения песни часто зависит от того, что уже было сказано. Например, фраза "летает как муха" может быть частью аналогии, как во фразах "время летит как стрела", или признаком удовольствия, как в "плодовых мухах, похожих на бананы". Однако смешивание и сопоставление слов, следующих за "летает как муха", приводит к "время летит как банан" или "дрозофила летит как стрела", что не имеет смысла. В этом примере фраза "летает как муха" имеет то, что исследователи называют зависимостью от контекста.
|
|
|
|
|
|
|
"Из нашей предыдущей работы мы знаем, что песни бенгальских вьюрков также зависят от контекста", - сказал Джин. "В этом исследовании мы разработали новый статистический метод, позволяющий лучше количественно оценить зависимость от контекста у отдельных птиц и начать понимать, как она связана с мозгом".
|
|
|
|
Исследователи проанализировали ранее записанные песни шести бенгальских вьюрков, которые поют от 7 до 15 слогов в каждой последовательности. С помощью нового метода исследователи могут создавать простейшие модели, которые точно отражают последовательности, которые на самом деле поют отдельные птицы.
|
|
|
|
Эти модели похожи на большие языковые модели в том смысле, что они отображают вероятности того, какие слова — или, в данном случае, слоги — могут следовать за определенным словом / слогом на основе ранее проанализированных текстов или последовательности песен. Они представляют собой разновидность марковской модели, метод моделирования цепочки событий. Они представлены в виде своего рода блок-схемы, которая начинается со слога, указывающего на варианты для различных слогов, которые могут следовать за ним. Вероятность того, что слог может следовать за слогом, указана стрелкой между ними.
|
|
|
|
"Базовые марковские модели довольно просты, но они склонны к чрезмерному обобщению, что означает, что они могут привести к последовательностям, которых на самом деле не существует", - сказал Джин. "Здесь мы использовали особый тип модели, называемый частично наблюдаемой марковской моделью, которая позволила нам включить зависимость от контекста, добавив больше связей к тому, какие слоги обычно сочетаются друг с другом. Дополнительная сложность позволяет создавать более точные модели".
|
|
|
|
Новый метод исследователей позволяет создать серию потенциальных моделей, которые могли бы описать пение отдельной птицы на основе записанных последовательностей. Они начинают с простейшей модели, используя статистический тест, чтобы определить, является ли потенциальная модель точной или она чрезмерно обобщает и создает последовательности, которых на самом деле не существует. Они прорабатывают все более и более сложные модели, пока не находят простейшую, которая точно отражает то, о чем поют птицы. На основе этой окончательной модели исследователи могут увидеть, какие слоги зависят от контекста.
|
|
|
|
"У всех шести птиц, которых мы изучали, слоговые переходы зависели от контекста, что позволяет предположить, что это важный аспект птичьего пения", - сказал Джин. "Однако количество слогов, зависящих от контекста, варьировалось в зависимости от индивидуальных предложений. Это может быть связано с несколькими факторами, в том числе с особенностями работы мозга птиц, или, поскольку эти песни заучиваются, это может быть связано с зависимостью от контекста в песнях их наставника".
|
|
|
|
Чтобы начать понимать нейробиологию, лежащую в основе зависящих от контекста переходов слогов, исследователи также проанализировали песни птиц, которые не могли слышать.
|
|
|
|
"У этих птиц мы наблюдаем резкое снижение зависимости от контекста, что говорит о том, что слуховая обратная связь играет большую роль в создании зависимости от контекста в мозге", - сказал Джин. "Птицы прислушиваются к себе и корректируют свою песню в зависимости от того, что они слышат, и соответствующие механизмы в мозге, вероятно, играют определенную роль в зависимости от контекста. В будущем мы также хотели бы сопоставить состояния нейронов с конкретными слогами. Наше исследование показывает, что даже когда птица поет один и тот же слог, могут быть активны разные наборы нейронов".
|
|
|
|
Исследователи заявили, что их новый метод обеспечивает более автоматизированный и надежный способ анализа не только пения птиц, но и вокализации других животных и даже поведенческих последовательностей.
|
|
|
|
"Мы действительно использовали этот метод для английского языка и смогли сгенерировать текст, который в основном содержит грамматику", - сказал Джин. "Конечно, мы не пытаемся создать новую генеративную языковую модель, но интересно, что одна и та же модель может работать как с пением птиц, так и с человеческим языком. Возможно, лежащий в основе нейронный механизм также схож.
|
|
|
|
"Многие философы описывают человеческий язык, и особенно грамматику, как исключительный, но если эта модель позволяет создавать предложения, похожие на язык, и если нейронные механизмы, стоящие за пением птиц и человеческим языком, действительно схожи, вы не можете не задаться вопросом, действительно ли наш язык настолько уникален".
|
|
|
|
Источник
|
