ИИ изобретает собственную культуру и передает ее людям
Новое исследование показывает, что люди могут узнавать новые вещи от систем искусственного интеллекта и передавать их другим людям таким образом, что это потенциально может повлиять на более широкую человеческую культуру. Исследование, опубликованное в понедельник группой исследователей из Центра человека и машин Института развития человека им. Макса Планка, предполагает, что, хотя люди могут учиться у алгоритмов тому, как лучше решать определенные проблемы, человеческие предубеждения не позволили улучшениям производительности продолжаться как можно дольше. долго, как и ожидалось. Люди, как правило, предпочитали решения от других людей решениям, предложенным алгоритмами, потому что они были более интуитивными или менее затратными на начальном этапе — даже если позже они окупались больше.
«Цифровые технологии уже влияют на процессы социальной передачи среди людей, предоставляя новые и более быстрые средства коммуникации и имитации», — пишут исследователи в исследовании. «Сделав еще один шаг вперед, мы утверждаем, что алгоритмические агенты и ИИ не просто средства культурной передачи (такие как книги или Интернет) могут также играть активную роль в формировании процессов культурной эволюции в Интернете, где люди и алгоритмы регулярно взаимодействуют». Суть этого исследования заключается в относительно простом вопросе: если социальное обучение или способность людей учиться друг у друга составляет основу того, как люди передают культуру или коллективно решают проблемы, как будет выглядеть социальное обучение между людьми и алгоритмами? Учитывая, что ученые не всегда знают и часто не могут воспроизвести, как работают или улучшаются их собственные алгоритмы, мысль о том, что машинное обучение может влиять на человеческое обучение — и саму культуру — на протяжении поколений, пугает.
«Существует концепция, называемая кумулятивной культурной эволюцией, где мы говорим, что каждое поколение всегда подтягивает следующее поколение на протяжении всей истории человечества», — сказал Motherboard Левин Бринкманн, один из исследователей, работавших над исследованием. «Очевидно, что ИИ подтягивает человеческую историю — он обучается на человеческих данных. Но нам также было интересно подумать и об обратном: возможно, в будущем наша человеческая культура будет строиться на решениях, которые были первоначально найдено по алгоритму». Одним из первых примеров, приведенных в исследовании, является го, китайская стратегическая настольная игра, в которой алгоритм AlphaGo победил чемпиона мира среди людей Ли Седоля в 2016 году. -play вместо анализа данных человеческого геймплея. Алгоритм был обнародован в 2017 году, и такие действия стали более распространенными среди игроков-людей, что позволяет предположить, что гибридная форма социального обучения между людьми и алгоритмами не только возможна, но и долговечна.
Мы уже знаем, что алгоритмы могут существенно влиять и действительно влияют на людей. Они используются не только для контроля над работниками и гражданами на физических рабочих местах, но и для контроля над работниками на цифровых платформах и влияния на поведение людей, которые их используют. Даже исследования алгоритмов выявили тревожную легкость, с которой эти системы можно использовать для занятий френологией и физиогномикой. Федеральный обзор алгоритмов распознавания лиц в 2019 году показал, что они изобилуют расовыми предубеждениями. В одной статье Nature 2020 года использовалось машинное обучение для отслеживания исторических изменений в том, как «надежность» изображалась на портретах, но были созданы диаграммы, неотличимые от известных буклетов по френологии, и были предложены универсальные выводы из набора данных, ограниченного европейскими портретами богатых людей.
«Я не думаю, что наша работа действительно может многое сказать о формировании норм или о том, насколько искусственный интеллект может вмешиваться в это», — сказал Бринкманн. «Мы сосредоточены на другом типе культуры, которую можно назвать культурой инноваций, верно? Измеримое значение или производительность, при которых вы можете четко сказать: «Хорошо, эта парадигма — как в случае с AlphaGo — может привести к успеху с большей или меньшей вероятностью». Для эксперимента исследователи использовали «цепочки передачи», где они создавали последовательность задач, которые нужно было решить, и участники могли наблюдать предыдущее решение (и копировать его), прежде чем решать его самостоятельно. Были созданы две цепочки: одна с участием только людей и гибридная человеко-алгоритмическая, в которой алгоритмы следовали за людьми, но не знали, был ли предыдущий игрок человеком или алгоритмом.
Задача заключалась в том, чтобы найти «оптимальную последовательность ходов» для навигации по сети из шести узлов и получения наград за каждый ход. «Как и ожидалось, мы обнаружили доказательства улучшения производительности в течение нескольких поколений благодаря социальному обучению», — написали исследователи. «Добавление алгоритма с другим уклоном в решении задач, чем люди, временно улучшило человеческую производительность, но улучшения не сохранились в следующих поколениях. Хотя люди копировали решения из алгоритма, они делали это с меньшей скоростью, чем копировали решения других людей с сопоставимой производительностью».
Бринкманн сказал Motherboard, что, хотя они были удивлены тем, что превосходные решения не получили более широкого распространения, это согласуется с другими исследованиями, предполагающими, что человеческие предубеждения в принятии решений сохраняются, несмотря на социальное обучение. Тем не менее, команда надеется, что будущие исследования могут дать представление о том, как это исправить. «Сейчас мы смотрим на то, какую роль здесь могут играть коллективные эффекты», — сказал Бринкманн. «Например, есть нечто, называемое «предвзятостью контекста». Это действительно о социальных факторах, которые также могут играть роль, о неинтуитивных или чуждых решениях для группы, которые могут быть устойчивыми.Мы также очень взволнованы вопросом коммуникации между алгоритмами и людьми: как это выглядит на самом деле, какие особенности нам нужно, чтобы ИИ учился или имитировал решения ИИ?»
