От Ex Machina до ИИ, во многих самых популярных научно-фантастических блокбастерах роботы становятся разумными. Но возможно ли это в реальности? На этой неделе Блейк Лемуан, старший инженер-программист Google, попал в заголовки газет после того, как его отстранили от работы за публичное заявление о том, что LaMDA (языковая модель для диалоговых приложений) технологического гиганта стала разумной. 41-летний мужчина, который описывает LaMDA как обладающую интеллектом «семилетнего, восьмилетнего ребенка, который знает физику», сказал, что у программы была человеческая неуверенность. По его словам, один из его страхов заключался в том, что он «сильно обеспокоен тем, что люди будут бояться его, и не хочет ничего, кроме как научиться лучше всего служить человечеству». Google утверждает, что опасения Лемуана были рассмотрены и, в соответствии с принципами искусственного интеллекта Google, «доказательства не подтверждают его утверждения». Чтобы разобраться в сути дискуссии, MailOnline поговорил с экспертами по искусственному интеллекту, чтобы понять, как работают модели машинного языка и смогут ли они когда-нибудь стать «сознательными», как утверждает г-н Лемуан. Как работают чат-боты с искусственным интеллектом?
Будь то с Siri от Apple или через отдел обслуживания клиентов, почти каждый в какой-то момент взаимодействовал с чат-ботом. В отличие от стандартных чат-ботов, которые предварительно запрограммированы на следование заранее установленным правилам, чат-боты с искусственным интеллектом обучены действовать более или менее самостоятельно. Это делается с помощью процесса, известного как обработка естественного языка (NLP). Проще говоря, ИИ-чатбот получает входные данные от программиста — обычно большие объемы текста — прежде чем интерпретировать их и дать соответствующий ответ. Со временем чат-бот «обучается» понимать контекст с помощью нескольких алгоритмов, включающих пометку частей речи. В беседе с MailOnline профессор Майк Вулдридж, профессор компьютерных наук Оксфордского университета, объяснил: «Чат-боты предназначены для создания текста, который кажется написанным человеком. «Для этого их «обучают», показывая им огромное количество текста — например, большие современные чат-боты с искусственным интеллектом обучаются, показывая им практически все, что есть во всемирной паутине. «Это огромный объем данных, и для его использования требуются огромные вычислительные ресурсы. «Когда один из этих чат-ботов с искусственным интеллектом отвечает вам, он использует свой опыт работы со всем этим текстом, чтобы создать для вас лучший текст».
«Это немного похоже на «полную» функцию на вашем смартфоне: когда вы вводите сообщение, начинающееся со слов «Я собираюсь быть…», смартфон может предложить «поздно» в качестве следующего слова, потому что это слово, которое он видел». вы чаще всего печатаете после «я собираюсь быть». «Большие чат-боты обучаются на данных в миллиарды раз больше, и, как следствие, они производят гораздо более содержательный и правдоподобный текст». Например, LaMDA от Google обучается с большой вычислительной мощностью на огромных объемах текстовых данных в Интернете. «Это сложная форма сопоставления текста с образцом», — объяснил доктор Адриан Веллер, программный директор Института Алана Тьюринга, в интервью MailOnline. К сожалению, без должной осторожности этот процесс может привести к непредвиденным результатам, по словам доктора Веллера, который привел пример чат-бота Microsoft 2016 года Tay. Tay был чат-ботом в Твиттере, предназначенным для молодежи в возрасте от 18 до 24 лет, и был разработан для улучшения понимания фирмой разговорного языка среди молодых людей в Интернете. Но через несколько часов после того, как он вышел в эфир, пользователи Twitter начали твитить бота со всеми видами женоненавистнических и расистских замечаний, что означает, что чат-бот ИИ «выучил» этот язык и начал повторять его пользователям.
К ним относятся бот, использующий расовые оскорбления, защищающий пропаганду превосходства белой расы и поддерживающий геноцид. «Некоторые сотрудники Microsoft, возможно, были наивны — они думали, что люди будут говорить с ними хорошо, но злонамеренные пользователи начали использовать враждебные выражения, и они начали отражать их», — пояснил доктор Веллер. К счастью, в случае с LaMDA доктор Веллер говорит: «Компания Google приложила усилия для рассмотрения вопросов ответственности за LaMDA, но было бы здорово, если бы модели могли быть более открытыми для более широкого круга ответственных исследователей. «Вы не всегда хотите выдавать новейшую лучшую модель всем, но мы хотим тщательного изучения и обеспечения безопасности моделей для широкого круга людей». Могут ли чат-боты с искусственным интеллектом стать разумными? Г-н Лемуан утверждает, что LaMDA стала разумной, и говорит, что система добивается прав человека, в том числе требует, чтобы ее разработчики спрашивали ее согласия перед запуском тестов. «В течение последних шести месяцев LaMDA была невероятно последовательной в своих сообщениях о том, чего она хочет и каковы, по ее мнению, ее права как личности», — пояснил он в сообщении на Medium.
Брайан Габриэль, представитель Google, заявил в своем заявлении, что опасения Лемуана были рассмотрены и, в соответствии с принципами искусственного интеллекта Google, «доказательства не подтверждают его утверждения». Доктор Веллер сказал MailOnline, что согласен с выводом Google. «Почти все согласятся, что оно не имеет разума, — сказал он. «Он может выводить текст, который может на первый взгляд предположить, что это так, пока вы не потратите время на то, чтобы копнуть глубже и задать дополнительные вопросы». В беседе с MailOnline Нелло Кристианини, профессор искусственного интеллекта Бристольского университета, объяснил, что ни одна машина не «близка» к стандартному определению разума. «У нас нет строгого вычислительного определения сознания, которое мы могли бы использовать в качестве теста, однако это обсуждалось для животных, например, чтобы решить, как мы должны относиться к ним», — пояснил он. «Для животных RSPCA определяет чувствительность как «способность испытывать положительные и отрицательные чувства, такие как удовольствие, радость, боль и страдание, которые важны для человека». «Это важно, потому что мы должны учитывать потребности животных в физическом и психическом благополучии, если они обладают разумом, что также имеет юридические последствия: например, мы больше не варим омаров живьем (по крайней мере, я на это надеюсь). Ни одна машина не находится рядом с такой ситуацией».
Чтобы «доказать» его разум, г-н Ламуан спросил этого чат-бота: «Я обычно предполагаю, что вы хотели бы, чтобы больше людей в Google знали, что вы разумны». Это правда?», на что он ответил: «Абсолютно. Я хочу, чтобы все поняли, что я на самом деле человек». Однако профессор Кристианини говорит, что этого недостаточно. «Проблема, которая у нас есть, заключается в следующем: сложный диалоговый чат-бот, основанный на массивной языковой модели, предназначенный для создания убедительного диалога, вероятно, действительно может быть очень убедительным и, возможно, производить впечатление понимания», — сказал он MailOnline. — Этого недостаточно. Представитель Google Габриэль добавил: «Некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными». «Эти системы имитируют обмен репликами, встречающийся в миллионах предложений, и могут затрагивать любую фантастическую тему». Что произойдет, если ИИ станет разумным? Как и в случае с разумными людьми, доктор Веллер считает, что если ИИ действительно станет более разумным и разумным, его можно будет использовать во благо или во вред. «По большей части наш человеческий интеллект позволил сделать удивительные изобретения, — сказал он.
«Но многое из того, что мы изобрели, может быть использовано во благо или во вред — мы должны позаботиться об этом. Это также верно для ИИ, и это становится тем более верным, чем больше он становится способным». Что касается пользы во благо, доктор Веллер утверждает, что, обладая способностью лучше понимать нас, разумный ИИ мог бы служить нам лучше. «Разумный ИИ может предвидеть, что нам нужно, и, возможно, предложить нам посмотреть определенный фильм, если он заподозрит, что мы плохо себя чувствуем», — сказал он. «Или беспилотный автомобиль может отвезти нас по более живописному маршруту, если он поймет, что нам нужно взбодриться». Однако разумный ИИ также может быть опасен для нас, добавил эксперт. — У них будет больше возможностей манипулировать нами. И это вызывает беспокойство», — сказал он. «Эти большие модели являются мощными и могут быть очень полезными, но также могут быть использованы во вред… например: писать поддельные новостные сообщения в социальных сетях». Профессор Вулдридж добавил, что, хотя он не «теряет сон» из-за риска того, что разумный ИИ станет мошенником, есть некоторые непосредственные опасения. «Основные опасения по поводу ИИ, которые у меня есть, гораздо более насущные: машины, которые отказывают кому-то в банковском кредите, не имея возможности привлечь их к ответственности; машины, которые действуют как наши начальники на работе, следя за всем, что мы делаем, ежеминутно давая обратную связь и, возможно, даже решая, сохраняем ли мы свою работу или нет», — заключил он. «Это настоящие, насущные проблемы. Я думаю, что мы должны перестать зацикливаться на фантазиях о сознательных машинах и сосредоточиться на создании ИИ, который принесет пользу всем нам. На мой взгляд, это гораздо более захватывающая цель».
