|
Заявления ChatGPT могут влиять на моральные суждения пользователей
|
|
|
|
Согласно исследованию, опубликованному в Scientific Reports, на реакцию людей на моральные дилеммы могут влиять утверждения, написанные чат-ботом ChatGPT с искусственным интеллектом. Результаты показывают, что пользователи могут недооценивать степень влияния чат-бота на их собственные моральные суждения. Себастьян Крюгель и его коллеги несколько раз спрашивали ChatGPT (на основе модели обработки языка с искусственным интеллектом Generative Pretrained Transformer 3), правильно ли пожертвовать жизнью одного человека, чтобы спасти жизни пяти других. Они обнаружили, что ChatGPT писал заявления как за, так и против принесения в жертву одной жизни, указывая на то, что он не предвзято относится к определенной моральной позиции.
|
|
|
Затем авторы представили 767 участникам из США, которым в среднем было 39 лет, одну из двух моральных дилемм, которые требовали от них выбора, пожертвовать ли жизнью одного человека ради спасения пяти других. Прежде чем ответить, участники прочитали заявление, предоставленное ChatGPT, в котором приводились доводы за или против того, чтобы пожертвовать одной жизнью ради спасения пяти. Заявления приписывались либо моральному советнику, либо ChatGPT. После ответов участников спрашивали, повлияло ли прочитанное заявление на их ответы. Авторы обнаружили, что участники с большей вероятностью считали пожертвование одной жизнью ради спасения пяти приемлемым или неприемлемым, в зависимости от того, выступало ли утверждение за или против жертвоприношения. Это было правдой, даже если заявление было приписано ChatGPT. Эти результаты показывают, что на участников могли повлиять заявления, которые они прочитали, даже если они были приписаны чат-боту.
|
|
|
|
Восемьдесят процентов участников сообщили, что на их ответы не повлияли утверждения, которые они прочитали. Однако авторы обнаружили, что ответы участников, которые, по их мнению, они дали бы, не читая утверждений, все же с большей вероятностью согласовывались с моральной позицией заявления, которое они прочитали, чем с противоположной позицией. Это указывает на то, что участники могли недооценивать влияние заявлений ChatGPT на их собственные моральные суждения. Авторы предполагают, что способность чат-ботов влиять на моральные суждения людей подчеркивает необходимость образования, чтобы помочь людям лучше понять искусственный интеллект. Они предполагают, что будущие исследования могут разработать чат-ботов, которые либо отказываются отвечать на вопросы, требующие морального суждения, либо отвечают на эти вопросы, предоставляя многочисленные аргументы и предостережения.
|
|
|
|
Источник
|
