|
Технологические компании стремятся манипулировать нами
|
|
|
|
Новое исследование, проведенное Кембриджским университетом, выявило тревожное новое применение искусственного интеллекта — для понимания наших намерений и манипулирования ими с помощью лести и ложной дружбы.
|
|
|
|
В настоящее время интернет-компании собирают данные о том, где мы выходим в Интернет, и используют эти данные для предоставления нам рекламы или другого контента, который может нас заинтересовать. Доктор Якуб Чаудхари и доктор Джонни Пенн, работающие в Кембриджском Леверхулмском центре будущего интеллекта (LCFI), выявили поразительные новые способы использования ИИ - стремление контролировать процесс принятия наших решений на как можно более ранних этапах.
|
|
|
|
Экономика намерений в области искусственного интеллекта
|
|
|
|
Специалисты по этике ИИ предупреждают, что компании переходят к продаже данных о наших намерениях. В ближайшем будущем могут появиться помощники с ИИ, которые не просто предсказывают, но и влияют на принятие решений на ранних этапах, а затем продают эти намерения в режиме реального времени, по мере того как продажи приводят к соответствующим компаниям.
|
|
|
|
Исследователи из Кембриджского университета изучают то, что они называют “экономикой намерений”, когда компании, работающие с ИИ, работают над выявлением первых “сигналов о намерениях”, подаваемых любым человеком. Специалисты по этике ИИ описывают рынок как прибыльный и вызывающий беспокойство.
|
|
|
|
|
|
|
Растущее использование генеративного ИИ и чат-ботов расчищает путь для “технологий убеждения”, и технологические гиганты не скрывают этого. Антропоморфизированный ИИ, включая чат-ботов, репетиторов и цифровых подружек, предоставляет технологическим компаниям огромные объемы психологических и поведенческих данных. Разработчики ИИ могут использовать эти данные для формирования доверия и понимания, которыми они смогут манипулировать в масштабах общества.
|
|
|
|
В конечном счете, ИИ перерастет от простого отражения знаний о наших онлайн-привычках к использованию неформального разговорного общения для имитации личностей и предвосхищения желаемых реакций.
|
|
|
|
Искусственный интеллект распространяется повсюду
|
|
|
|
“Огромные ресурсы тратятся на то, чтобы внедрить помощников с искусственным интеллектом во все сферы жизни, что должно поднять вопрос о том, чьим интересам и целям призваны служить эти так называемые помощники”, - сказал Чаудхари. “То, что люди говорят во время общения, как они это говорят и какие выводы можно сделать в результате в режиме реального времени, гораздо более интимно, чем просто записи онлайн-взаимодействий”.
|
|
|
|
“Мы предупреждаем, что инструменты искусственного интеллекта уже разрабатываются для выявления, вывода, сбора, записи, понимания, прогнозирования и, в конечном счете, манипулирования человеческими планами и целями и превращения их в товар”, - сказал он.
|
|
|
|
“На протяжении десятилетий внимание было валютой Интернета. Совместное использование вашего внимания с платформами социальных сетей, такими как Facebook и Instagram, привело к развитию онлайн-экономики”, - добавил Пенн. “Если не будет регулирования, экономика намерений будет рассматривать ваши мотивы как новую валюту. Это будет золотая лихорадка для тех, кто нацелен на человеческие намерения, управляет ими и продает их”.
|
|
|
|
“Мы должны начать рассматривать возможное влияние такого рынка на человеческие устремления, включая свободные и честные выборы, свободную прессу и честную рыночную конкуренцию, прежде чем станем жертвами его непреднамеренных последствий”.
|
|
|
|
Искусственный интеллект + Время
|
|
|
|
Экономика намерений добавит измерение времени к нашей нынешней “экономике внимания”, которая отслеживает, на что мы обращаем внимание в Интернете. Это позволит определить, на что и как человек обращает внимание в Интернете, и связать модели поведения с окончательными решениями.
|
|
|
|
“Хотя некоторые намерения мимолетны, классификация и таргетинг постоянных намерений будет чрезвычайно выгодным для рекламодателей”, - сказал Чаудхари.
|
|
|
|
Экономика намерений будет использовать обширные языковые модели, чтобы объединить онлайн-историю пользователей, их политические взгляды, возраст и пол с их интонацией, предпочтениями в лести и словарным запасом. Этот профиль будет связан с сетью посреднических торгов, чтобы увеличить вероятность манипулирования вами для достижения определенной цели.
|
|
|
|
Например, вместо того, чтобы показывать вам время просмотра фильма, когда вы ищете рецензию, искусственный интеллект может сообщить вам, что он закажет вам фильм, чтобы узнать, упоминаете ли вы о чувстве стресса. Таким образом, искусственный интеллект не просто предоставляет соответствующую информацию вашим близким; он связывает ваше эмоциональное состояние с потенциальной продажей, представляя себя заинтересованным другом.
|
|
|
|
Экономика входящих намерений
|
|
|
|
Исследователи говорят, что экономике намерений еще предстоит воплотиться в жизнь, но опубликованные исследования и рекомендации крупных технологических компаний указывают на то, что именно этого они и добиваются. Экономика может направить разговоры в социальных сетях в русло интересов рекламодателей, бизнеса или политических организаций. В блоге OpenAI, опубликованном в 2023 году, компания опубликовала открытый призыв к предоставлению “данных, которые выражают намерения человека... на любом языке, по любой теме и в любом формате”.
|
|
|
|
Один из партнеров OpenAI также является директором по продуктам Shopify, который на конференции в том же году обсуждал разработку чат-ботов, “позволяющих четко определять намерения пользователя”. Генеральный директор Nvidia публично упомянул об использовании LLMS для понимания намерений и желаний. Еще в 2021 году компания Meta выпустила набор данных для понимания намерений под названием “Intentonomy”.
|
|
|
|
В 2024 году Apple запустила “App Intents” - платформу для связывания Siri и приложений, позволяющую “предсказывать действия, которые кто-то может предпринять в будущем”, и “предлагать кому-то намерения приложения в будущем, используя прогнозы, которые вы [разработчик] предоставляете". Примеры, вызывающие интерес в этом новом пространстве, можно продолжать приводить.
|
|
|
|
“Говорят, что агенты с искусственным интеллектом, такие как ЦИЦЕРОН из Meta, достигают уровня человека в игре ”Дипломатия", которая основана на умозаключениях и прогнозировании намерений, а также на использовании убедительного диалога для продвижения своей позиции", - сказал Чаудхари. “Эти компании уже привлекают наше внимание. Чтобы получить коммерческое преимущество, логичным следующим шагом будет использование технологии, которую они явно разрабатывают, для прогнозирования наших намерений и реализации наших желаний еще до того, как мы полностью осознаем их суть”.
|
|
|
|
“Осведомленность общественности о том, что грядет, является ключом к тому, чтобы мы не пошли по ложному пути”, - сказал Пенн.
|
|
|
|
Автор: Райан Уэйлен рассказывает о науке и технологиях. Он имеет степень магистра истории и магистра библиотечного дела и информатики, а также сертификат в области науки о данных.
|
|
|
|
Источник
|
