|
Люди привносят гендерные предубеждения в ИИ
|
|
|
|
Люди привносят гендерные предубеждения в свои взаимодействия с искусственным интеллектом (ИИ), согласно новому исследованию, проведенному Тринити-колледжем в Дублине и Университетом Людвига-Максимилиана (LMU) в Мюнхене.
|
|
|
|
Исследование, в котором приняли участие 402 человека, показало, что люди эксплуатировали искусственный интеллект, помеченный как женский, и не доверяли ИИ, помеченному как мужской, в той же степени, что и партнерам-людям с такими же гендерными признаками.
|
|
|
|
Примечательно, что в случае с ИИ, помеченным как женщина, исследование показало, что эксплуатация в среде ИИ-человека была даже более распространенной, чем в случае партнеров-людей с такими же гендерными метками.
|
|
|
|
Это первое исследование, в котором рассматривается роль гендера машины в сотрудничестве человека и ИИ с использованием систематического эмпирического подхода.
|
|
|
|
Результаты показывают, что гендерные ожидания от взаимодействия человека и ИИ распространяются и на сотрудничество человека и ИИ. По мнению авторов, это имеет значительные последствия для того, как организации проектируют, развертывают и регулируют интерактивные системы искусственного интеллекта.
|
|
|
|
Исследование, проведенное социологами из Школы социальных наук и философии Тринити, только что было опубликовано в журнале iScience.
|
|
|
|
|
|
|
Основные выводы включают в себя следующее:
|
|
|
|
- Модели эксплуатации и недоверия к агентам искусственного интеллекта отражают те, которые наблюдаются у партнеров-людей, носящих те же гендерные ярлыки.
|
|
- Участники с большей вероятностью использовали агентов ИИ, помеченных как женщины, и с большей вероятностью не доверяли агентам ИИ, помеченным как мужчины.
|
|
- Присвоение пола агентам ИИ может влиять на сотрудничество, доверие и последствия неправильного использования для разработки продукта, развертывания на рабочем месте и управления.
|
|
|
|
Сепиде Базази, первый автор исследования и приглашенный научный сотрудник Школы социальных наук и философии Тринити, объяснила: "По мере того, как ИИ становится частью повседневной жизни, наши выводы о том, что гендерные ожидания влияют на сотрудничество человека и ИИ, подчеркивают важность тщательного учета гендерного представительства при разработке ИИ, например, для максимально вовлекайте людей и укрепляйте доверие к их взаимодействию с автоматизированными системами.
|
|
|
|
"Разработчики интерактивных агентов ИИ должны распознавать и смягчать предубеждения в человеческих взаимодействиях, чтобы предотвратить усиление пагубной дискриминации по признаку пола и создать надежные, справедливые и социально ответственные системы ИИ".
|
|
|
|
Таха Яссери, соавтор исследования и директор Центра социологии людей и машин (SOHAM) в Trinity, сказал: "Наши результаты показывают, что простое присвоение ИИ гендерного статуса может изменить отношение людей к нему. Если организации будут давать агентам ИИ человекоподобные сигналы, включая гендерные, они должны предвидеть последствия для доверия и сотрудничества".
|
|
|
|
Юргис Карпус, соавтор исследования и научный сотрудник Мюнхенского университета Людвига-Максимилиана (LMU), добавил: "Это исследование поднимает важную дилемму. Наделение агентов ИИ человекоподобными функциями может способствовать сотрудничеству между людьми и ИИ, но это также может привести к переносу и усилению существующих нежелательных гендерных предубеждений при взаимодействии людей с другими людьми".
|
|
Подробнее об исследовании
|
|
|
|
В этом экспериментальном исследовании участники неоднократно участвовали в социологическом эксперименте "Дилемма заключенного" — классическом эксперименте в области поведенческой теории игр и экономики, направленном на изучение человеческого сотрудничества и дезертирства. Партнеры были обозначены как люди или искусственный интеллект. Каждый партнер был дополнительно обозначен как мужчина, женщина, недвоичный или гендерно нейтральный.
|
|
|
|
Команда проанализировала мотивы сотрудничества и дезертирства, проведя различие между эксплуатацией (использованием преимуществ партнера по сотрудничеству) и недоверием (превентивным дезертирством). Результаты показывают, что гендерная маркировка может воспроизводить гендерные модели сотрудничества с ИИ. Участники были набраны в Великобритании, а эксперимент проводился онлайн. Объем выборки составил 402 участника.
|
|
|
|
Источник
|
