Большинство людей знакомы с потоком приложений искусственного интеллекта (ИИ), которые, кажется, созданы для того, чтобы сделать нас более эффективными и творческими. У нас есть приложения, которые принимают текстовые подсказки и создают изображения, а также скандальный ChatGPT, который поднимает серьезные вопросы об оригинальности, дезинформации и плагиате. Несмотря на эти опасения, ИИ становится все более распространенным и навязчивым. Это новейшая технология, которая необратимо изменит нашу жизнь. Интернет и смартфоны были другими примерами. Но, в отличие от этих технологий, многие философы и ученые считают, что ИИ однажды сможет достичь (или даже превзойти) «мышление» в человеческом стиле. Эта возможность в сочетании с нашей растущей зависимостью от ИИ лежит в основе концепции футуризма, называемой «технологической сингулярностью».
Этот термин существует уже некоторое время, он был популяризирован писателем-фантастом Вернором Винджем несколько десятилетий назад. Сегодня «сингулярность» относится к гипотетическому моменту времени, когда развитие искусственного общего интеллекта (ИИА) — то есть ИИ со способностями человеческого уровня — станет настолько продвинутым, что необратимо изменит человеческую цивилизацию. Это ознаменовало бы рассвет нашей неотделимости от машин. С этого момента мы не сможем жить без них, не переставая функционировать как люди. Но если сингулярность наступит, заметим ли мы ее вообще? Чтобы понять, почему это не сказки, нам достаточно взглянуть на недавние разработки интерфейсов мозг-компьютер (BCI). BCI являются естественным началом сингулярности в глазах многих футуристов, потому что они объединяют разум и машину так, как никакая другая технология пока не может.
Компания Илона Маска Neuralink запрашивает разрешение у Управления по санитарному надзору за качеством пищевых продуктов и медикаментов, чтобы начать испытания своей технологии BCI на людях. Это будет включать в себя имплантацию нейронных соединителей в мозг добровольцев, чтобы они могли передавать инструкции, думая их. Neuralink надеется помочь людям с параличом нижних конечностей снова ходить, а слепым снова видеть. Но помимо этих целей есть и другие амбиции. Маск уже давно говорил, что, по его мнению, мозговые имплантаты позволят осуществлять телепатическую связь и приведут к совместной эволюции людей и машин. Он утверждает, что если мы не будем использовать такие технологии для увеличения нашего интеллекта, мы рискуем быть уничтоженными сверхинтеллектуальным ИИ.
Понятно, что Маск не всем нужен в плане технических знаний. Но он не одинок в предсказании огромного роста возможностей ИИ. Опросы показывают, что исследователи ИИ в подавляющем большинстве согласны с тем, что в этом столетии ИИ достигнет «мышления» на уровне человека. В чем они не согласны, так это в том, подразумевает ли это сознание или нет, или это обязательно означает, что ИИ причинит нам вред, как только достигнет этого уровня. Другая технологическая компания BCI, Synchron, создала минимально инвазивный имплантат, который позволял пациенту с боковым амиотрофическим склерозом (БАС) отправлять электронные письма и просматривать Интернет, используя свои мысли.
Исполнительный директор Synchron Том Оксли считает, что мозговые имплантаты в конечном итоге могут выйти за рамки протезной реабилитации и полностью изменить то, как люди общаются. Выступая перед аудиторией TED, он сказал, что однажды они позволят пользователям «выплеснуть» свои эмоции, чтобы другие могли почувствовать то, что они чувствуют, и «полный потенциал мозга будет раскрыт». Ранние достижения в BCI, возможно, можно считать первыми этапами движения к постулируемой сингулярности, в которой человек и машина становятся единым целым. Это не обязательно означает, что машины станут «разумными» или будут контролировать нас. Но сама интеграция и наша последующая зависимость от нее могут изменить нас безвозвратно.
Также стоит упомянуть, что начальное финансирование Synchron частично поступило от DARPA, научно-исследовательского подразделения Министерства обороны США, которое помогло подарить миру Интернет. Вероятно, разумно беспокоиться о том, куда DARPA вкладывает свои инвестиционные деньги. По словам Рэя Курцвейла, футуролога и бывшего инженера Google по инновациям, люди с искусственным интеллектом могут быть брошены на автобан эволюции и нестись вперед без ограничений скорости. В своей книге 2012 года «Как создать разум» Курцвейл теоретизирует, что неокортекс — часть мозга, которая, как считается, отвечает за «высшие функции», такие как сенсорное восприятие, эмоции и познание, — представляет собой иерархическую систему распознавателей образов, которая, если подражать ей в машина, может привести к искусственному сверхразуму.
Он предсказывает, что сингулярность будет с нами к 2045 году, и считает, что это может привести к появлению мира сверхразумных людей, возможно, даже ницшеанских «сверхчеловеков»: тех, кто превосходит все мирские ограничения, чтобы полностью реализовать свой потенциал. Но не все считают AGI хорошей вещью. Покойный великий физик-теоретик Стивен Хокинг предупреждал, что сверхразумный ИИ может привести к апокалипсису. В 2014 году Хокинг сказал Би-би-си: «Развитие полноценного искусственного интеллекта может означать конец человеческой расы. […] Он взлетит сам по себе и будет переделывать себя со все возрастающей скоростью. Люди, которые ограничены медленной биологической эволюцией, не могут конкурировать и будут вытеснены».
Еще одна идея, связанная с сингулярностью, — это «коллективный разум» с поддержкой ИИ. Мерриам-Вебстер определяет коллективный разум как «коллективную умственную деятельность, выражающуюся в сложном, скоординированном поведении колонии социальных насекомых (таких как пчелы или муравьи), которую можно сравнить с единым разумом, контролирующим поведение отдельного организма». Нейробиолог Джулио Тонони разработал вокруг этого явления теорию, названную Теорией интегрированной информации (ИИТ). Это предполагает, что мы все движемся к слиянию всех умов и всех данных.
Философ Филип Гофф хорошо объясняет последствия концепции Тонони в своей книге «Ошибка Галилея»: человеческого мозга, то не только общество стало бы сознательным, но и человеческий мозг был бы «поглощен» этой высшей формой сознания. Мозги перестанут быть сознательными сами по себе и вместо этого станут простыми винтиками в мегасознательной сущности, которой является общество, включая его интернет-соединение». Стоит отметить, что существует мало доказательств того, что такая вещь когда-либо может быть реализована. Но эта теория поднимает важные идеи не только о быстром развитии технологий (не говоря уже о том, как квантовые вычисления могут способствовать этому), но и о природе самого сознания.
Гипотетически, если бы возник коллективный разум, можно было бы представить, что это ознаменовало бы конец индивидуальности и основанных на ней институтов, включая демократию. Недавно OpenAI (компания, разработавшая ChatGPT) опубликовала сообщение в блоге, подтверждающее ее приверженность достижению AGI. Другие, несомненно, последуют. Наша жизнь становится управляемой алгоритмами способами, которые мы часто не можем различить и, следовательно, не можем избежать. Многие особенности технологической сингулярности обещают удивительные улучшения в нашей жизни, но есть опасения, что эти ИИ являются продуктом частной промышленности. Они практически не регулируются и в значительной степени зависят от прихотей импульсивных «технопредпринимателей», у которых денег больше, чем у большинства из нас вместе взятых. Независимо от того, считаем ли мы их сумасшедшими, наивными или мечтателями, мы имеем право знать их планы (и иметь возможность опровергнуть их). Если говорить о последних нескольких десятилетиях, когда речь идет о новых технологиях, это затронет всех нас.
