22.02.2024. - ИИ устроит человечеству апокалипсис

ИИ устроит человечеству апокалипсис

Элиэзер Юдковски, 44-летний академик в серой рубашке-поло, медленно раскачивается на своем офисном стуле и с большим терпением объясняет (для такого новичка, как я, все происходит медленно), что каждый человек, которого мы знаем и любим, скоро умрет. Они будут убиты мятежными самосознающими машинами. «Трудность в том, что люди не осознают», — мягко говорит Юдковский, возможно, в его голосе звучит немного разочарование, как будто его раздражает соседская воздуходувка или разочаровывают последние страницы романа. «У нас есть хоть малейший шанс, что человечество выживет».

Сейчас январь. Я намеревался встретиться и поговорить с небольшой, но растущей группой луддитов, предсказателей судьбы, разрушителей и других скептиков эпохи искусственного интеллекта, которые видят только плохое в том, как развивается наш пропитанный шпионским ПО и бесконечно прокручивающий события мир. Я хочу выяснить, почему эти технопессимисты думают именно так. Я хочу знать, как они отнесутся к изменениям. Из всех, с кем я разговаривал, Юдковский наиболее пессимистичен и наименее убежден в том, что у цивилизации есть надежда. Он является ведущим исследователем некоммерческой организации под названием «Научно-исследовательский институт машинного интеллекта» в Беркли, штат Калифорния, и результаты многолетних теоретизирований Юдковски можно свести к паре гласных звуков: «Ох фууууу-!»

«Если вы прижмете меня к стене, — продолжает он, — и заставите меня оценивать вероятности событий, у меня возникнет ощущение, что наш текущий оставшийся график выглядит скорее как пять лет, чем 50 лет. Может быть два года, может быть 10». Под «оставшейся временной шкалой» Юдковский имеет в виду: до тех пор, пока мы не столкнемся с машинным концом всего сущего. Подумайте об апокалипсисе, подобном Терминатору. Подумайте об адском пейзаже Матрицы. Юдковский когда-то был основоположником разработки искусственного интеллекта, созданного человеком. Он пришел к выводу, что те же самые ИИ вскоре превратятся в свое нынешнее состояние «Ой, посмотри на это!» разумность, предполагающая продвинутый сверхразум божественного уровня, слишком быстрый и слишком амбициозный, чтобы люди могли его сдержать или ограничить. Не представляйте себе искусственный мозг в одной коробке, советует Юдковски. Чтобы понять, к чему движутся события, говорит он, попытайтесь представить «инопланетную цивилизацию, которая думает в тысячу раз быстрее, чем мы», в большом количестве коробок, почти слишком многих, чтобы мы могли их демонтировать, если бы мы вообще решили это сделать.

Пытаясь вывести человечество из самоуспокоенности по этому поводу, прошлой весной Юдковский опубликовал в журнале Time статью, в которой рекомендовал закрыть компьютерные фермы, где выращивают и обучают ИИ. В ясной и четкой форме он рассуждал о возможной необходимости авиаударов по центрам обработки данных; возможно, даже обмен ядерными ударами. Он что-то задумал?

Далеко от Беркли, в лесистом пригороде Сиденхем на юге Лондона, назревает более тихая форма сопротивления технологическим нарушениям. Ник Хилтон, ведущий нео-луддитского подкаста «Час радио Неда Ладда», пригласил меня на чашку чая. Мы стоим у него на кухне и ждем, пока закипит чайник, а красивая и резвая борзая по кличке Таб чавкает у нас по лодыжкам. «Запишите слово «красиво» в свой блокнот», — призывает 31-летняя Хилтон, которая не только управляет компанией по подкастам, но и работает журналистом-фрилансером. Он объясняет историю луддизма и то, как – спустя столетия после того, как луддитские протестующие в индустриализирующейся Англии сопротивлялись достижениям в текстильной промышленности, которые стоили им рабочих мест, уничтожали машины и были в результате оклеветаны, арестованы и даже убиты – он начал сочувствовать его современному переосмысление.

«Луддит сейчас имеет множество значений, два, может быть, три определения», — говорит Хилтон. «Пожилые люди иногда говорят: «Ой, ты можешь помочь мне с моим телефоном?» Я такой луддит!» И они имеют в виду, что не могут идти в ногу с технологическими изменениями». Есть люди, которые активно отвергают современные устройства и технику, продолжает он. Они также могут называть себя луддитами (или называться так). «Но в более чистом историческом смысле этот термин относится к людям, которых беспокоит взаимодействие технологий и рынков труда. И в этом смысле я бы определенно назвал себя таковым».

Эдвард Онгвесо-младший, писатель и телеведущий, и Молли Крэбэппл, художница, оба живут в Нью-Йорке, также определяют себя как луддитов. Онгвесо разговаривает со мной по телефону, пока бегает по городу. Впервые мы установили контакт через социальные сети. Мы назначаем дату по электронной почте. Теперь мы позволяем Google Meet управлять механизмом беспрепятственного трансатлантического звонка. Неолуддизм не предполагает отказа от подобных нововведений, объясняет Онгвесо. Вместо этого он требует, чтобы каждая новая инновация рассматривалась на предмет ее достоинств, социальной справедливости и потенциала скрытой вредоносности. «Для меня луддизм связан с идеей о том, что то, что технология существует, не означает, что она не подлежит сомнению. Тот факт, что мы внедрили какую-то технологию, не означает, что мы внедрили какие-то улучшения. Мы должны быть постоянно настроены скептически, особенно когда технологии применяются на рабочих местах и в других местах для упорядочения общественной жизни».

Crabapple, художник-луддит, в целом с этим согласен. «Для меня луддит — это тот, кто критически смотрит на технологии и отвергает их аспекты, которые призваны лишить их возможностей, лишать их квалификации или обеднить. Технологии — это не что-то, что было создано каким-то небесным богом, который в глубине души заботится о наших интересах. Технологическое развитие формируется деньгами, оно формируется властью и, как правило, направлено на интересы тех, кто находится у власти, а не на интересы тех, кто ее не имеет. Это стереотипное определение луддита как тупого рабочего, который разбивает машины, потому что они тупые? Это придумали боссы».

В то время как техно-пессимист, такой как Юдковский, требует от нас рассмотреть самые масштабные угрозы, которые только можно себе представить (до такой степени, что наши пальцы нащупывают ядерные коды), неолуддиты склонны сосредотачиваться на проблемах нижнего уровня. Особенно занятость, потому что именно здесь технологии, обогащенные ИИ, кажется, причиняют наибольшую боль. Пробег водителей грузовиков ежеминутно отслеживается, а время отдыха подвергается сомнению. Сотрудники офиса могут сидеть перед камерами, которые делают снимки через произвольные промежутки времени, обеспечивая посещаемость и внимание. Вы могли бы назвать это эффективностью рабочего места. Их можно назвать грубыми оскорблениями. Угадайте, что будут утверждать луддиты. Трудовые права затрагивают самую историческую суть этого движения.

Хилтон назвал свой подкаст «Час радио Неда Ладда» в честь человека, который, возможно, жил около 250 лет назад, а мог вообще никогда не жить. Как объяснил Хилтон в своем шоу, Нед Ладд, как полагают, был текстильщиком, жившим в английском Мидлендсе в конце 1770-х годов. Говорят, он разбил несколько ткацких станков после того, как его выпороли за безделье на работе. Что-то в избиении могло найти отклик у его сверстников. Как объяснил Хилтон: «Через несколько десятилетий достоверность личности Ладда будет утеряна навсегда, но имя будет жить. В 1810-х годах луддиты превратились в организованную группу разрушителей рамок. Они боролись с промышленной революцией… и проиграли. Они проиграли по-крупному. На самом деле они проиграли так сильно, что реальность их имени стала жертвой [запутывания]».

Историю восстания луддитов преподают в британских школах, но в такой запутанной форме, что это позволило по крайней мере некоторым из нас, включая меня, прийти к выводу, что быть луддитом — значит быть наивным или боязливым и монахом. -иш. Проводя меня из кухни в гостиную, комнату, заполненную взаимосвязанным оборудованием, которое он использует для создания своих подкастов, Хилтон чувствует необходимость извиниться. По крайней мере, согласно одному из определений этого слова: «Я живу совсем не луддитской жизнью», — говорит Хилтон, беспомощно указывая на открытый ноутбук, беспроводные наушники и высокий микрофон. «Моя работа основана на технологиях. Я не могу этого избежать. Я не претендую на то, чтобы быть человеком, живущим в лесу. Но я беспокоюсь. Я чувствую, что все идет наперекосяк».

Именно это предчувствие изнашивания привело других к современной версии луддизма. Академик по имени Джатан Садовски был одним из первых, кто объединил тревогу по поводу ускоряющейся технологической революции с тревогой тех ткачей, которые выступили против посягательств более раннего машинного века. «Луддизм основан на политике отказа, которая на самом деле означает лишь право и возможность сказать «нет» вещам, которые напрямую влияют на вашу жизнь», — говорит мне Садовский, когда мы разговариваем. «Это не следует рассматривать как крайнюю позицию, и тем не менее в культуре, которая фетишизирует технологии ради самих технологий, сказать «нет» технологиям немыслимо».

По крайней мере, так было до 2023 года — года, когда ChatGPT (разработанный компанией OpenAI), Bard (разработанный Google) и другие удобные для пользователя ИИ были приняты миром. В то же время такие генераторы изображений, как Dall-E и Midjourney, поразили людей своими фотографиями-моделями и графикой. «Они не будут заменять премьер-министра ChatGPT или управляющего Банка Англии Бардом», — заявил Хилтон в своем подкасте. «Они не заменят Кристофера Нолана на Далл-И или Мартина Скорсезе на Мидджорни, но из великолепного трудового стейка срежут жир».

В январе 2023 года экспозиция пейзажей, созданных искусственным интеллектом и проецируемых на стену галереи в Вермонте, подверглась вандализму со словами «ИИ — это воровство». Творческие профессионалы начали чувствовать себя эксплуатируемыми. Массы неуказанного и неоплачиваемого человеческого труда собирались из Интернета и перепрофилировались умными генеративными искусственными интеллектами. Весной 2023 года Crabapple организовала открытое письмо, в котором призвала ограничить эту «вампирическую» практику. Было больше открытых писем, в том числе одно, в котором содержался призыв к шестимесячной паузе в разработке любых новых ИИ.

Были случаи прямых действий, некоторые серьезные, некоторые насмешливые или что-то среднее между ними. В Лос-Анджелесе противники вездесущих дверных звонков с камерами Ring распространяли наклейки «Anti Ring», которые нужно было приклеить на линзы устройств. Группа жителей Сан-Франциско, называющих себя «Бунтарями на безопасной улице», начала захватывать дорожные конусы и размещать их на капотах городских беспилотных автомобилей, чтобы быстро сбить с толку датчики автомобилей и вывести их из строя. Брайан Мерчант, писатель, опубликовавший в прошлом году книгу «Кровь в машине», историю луддизма, появился на мероприятии Safe Street Rebel в ноябре 2023 года. На глазах у аплодирующих калифорнийцев он устроил «луддитский трибунал», разбивая устройства, которые, как считала толпа, лишний.

«Есть ощущение, что теперь это уже предел возможностей — фактически отказаться от отдельных частей или способов использования технологии, не выглядя при этом глупо», — говорит мне Мерчант. Пока мы говорим, он готовится к очередному трибуналу, на этот раз в книжном магазине «Страница против машины».

Конечно, есть техноскептики-скептики, те, кто сочтет Юдковского паникером, современных луддитов, обреченных на свалку истории вместе со своими предшественниками из XIX века. В 2019 году политический обозреватель Аарон Бастани опубликовал убедительный манифест под названием «Полностью автоматизированный роскошный коммунизм», описывающий ближайшее будущее, обогащенное технологиями и искусственным интеллектом, за пределами тяжелой работы и нужды, которое можно взять «если мы этого хотим», написал Бастани. В прошлом году депутат-консерватор Бим Афолами опубликовал редакционную статью в Evening Standard, в которой назвал пессимизм в отношении технологий «иррациональным». Афолами посоветовал читателям газеты жирным шрифтом: «Игнорируйте луддитов». Его босс Риши Сунак недавно использовал свое положение лидера нации, чтобы служить своего рода ведущим ток-шоу для технологического магната Илона Маска. На сцене саммита по искусственному интеллекту в Ланкастер-Хаусе в Лондоне в ноябре Маск назвал искусственный интеллект «самой разрушительной силой в истории», чем-то, что положит конец человеческому труду, может быть, во благо, а может, и во вред. «Вы это не продадите», — пошутил однажды Сунак.

Почему нам это продают? В одном из первых выпусков своего луддитского подкаста Хилтон отметил, что отказ от работы значил бы уничтожение смысла жизни. «Я думаю, что мы рискуем широкомасштабной потерей цели», — говорит Хилтон. Писательница Райли Куинн в целом с этим согласна. Куинн является членом англо-американского коллектива TrashFuture, который выпускает популярный одноименный подкаст. Однажды мы болтаем после записи. Они подшучивают и дразнят друг друга, принимая мрачный, но ироничный и забавный взгляд на эти вещи. Остерегайтесь, говорит однажды Куинн, тех, кто представляет технологии как «синоним дальновидности, гибкости и эффективности». Обычно это код: «Мы найдем способ обойти трудовое законодательство»… Я не думаю, что это бездумная реакция или борьба короля Канута с течением времени [чтобы указать на это]». Один из его коллег по TrashFuture, Нейт Бетеа, согласен. «Противодействие технологиям всегда будет изображаться как иррациональное людьми, которые имеют прямую финансовую заинтересованность в том, чтобы все оставалось так, как есть», — говорит он.

Находясь на грани остроумия, у банды TrashFuture нет времени на резкое увольнение таких групп, как нео-луддиты, но они также не стремятся начать нападение на мировые компьютерные фермы, нанося упреждающий удар по будущим ИИ, которые Юдковский призвал в печати. Они, члены TrashFuture, развлекаются, высмеивая его статью. Когда я спрашиваю об этом Юдковского, он говорит, что пришел к написанию в спешке, работая в сжатые сроки. Он придерживается всего, что написал, за исключением, может быть, части о ядерном оружии. «Сейчас я бы выбрал более осторожную формулировку», — говорит он, улыбаясь.

В последнее время я сам борюсь с технопессимизмом. По крайней мере, один раз в день я выбрасываю свой телефон, испытывая отвращение к тому, что доверяю ему, бунт, который может длиться до 15 минут, прежде чем я поползу обратно. Мои дети, внимательно наблюдая, привыкли к мысли, что покупки совершаются, хмурясь в экран, что покупки приходят на фургонах и непрактично быстро. Я писатель-фрилансер. Конечно, я чувствую, как приближается моя замена ИИ, пока где-то за плечом, но приближаюсь.

Мы хвастаемся друг другом в Интернете и, кажется, перестали испытывать брезгливость по этому поводу. Мы ругаемся друг на друга и дуемся. Я убежден, что мы слишком много говорим друг другу и фиксируем слишком много, сохраняя цифровые доказательства большего количества вещей, чем может понять среднестатистическая человеческая психика. Между любовниками, друзьями, коллегами, соперниками не так уж много тайн; некоторая полезная золотая середина исчезла, а вместе с ней и удобная зона невежества. Квитанции о наших делах имеют отметку времени и архивируются. Двусмысленность – прекрасная двусмысленность – затерялась где-то между нулями и единицами.

Возможно, ответом является луддизм. Насколько я могу понять, разговаривая со всеми этими людьми, речь идет не об отказе от продвижения, а о том, чтобы задаться вопросом: продолжаем ли мы улучшать наше удовольствие от мира? Насколько нам нужно чувствовать тошноту, нереальность или угрозу, прежде чем мы перестанем считать эти удобства удобными? Автор Зэди Смит в прошлом шутила, что в первую очередь мы слишком дешево отдали себя технологиям, и все это на самом деле ради удовольствия быть движущейся точкой на полезной цифровой карте. Теперь начальники могут отслеживать каждое нажатие клавиши своими работниками. Фирмы телемаркетинга совершают рекламные звонки с помощью голосов, генерируемых искусственным интеллектом, которые имитируют уволенных бывших сотрудников. Несколько недель назад, в январе, крупнейший в истории опрос исследователей ИИ показал, что 16% из них считают, что их работа приведет к вымиранию человечества.

«Вероятность катастрофы составляет один к шести», — говорит Алистер Стюарт, бывший британский солдат, ставший студентом магистратуры. «Это шансы в русской рулетке». Я встречаюсь со Стюартом, которому 28 лет, возле лондонской штаб-квартиры подразделения искусственного интеллекта Google. Google только что заказал несколько произведений уличного искусства, которые я бы посчитал довольно странными в области коммуникаций, чтобы ослабить опасения общественности по поводу текущих темпов машинного обучения. Это сбивающий с толку дисплей. На одной из работ изображены пышные зеленые холмы, уютные домики на берегу озера – и за всем этим огромное дымящееся грибообразное облако. «Ученые используют ИИ для создания более стабильных и эффективных термоядерных реакторов», — говорится на информационной панели. Прохладный?

Стюарта это пугает. Он принимал участие в протестах против разработки искусственного интеллекта, однажды развернув перед зданием Google баннер, призывающий приостановить работу, идущую внутри. В этом протесте к нему присоединилось не так много людей. Стюарт понимает. Искусственный интеллект, невидимый и децентрализованный, роящийся между центрами обработки данных, разбросанными по всему миру, трудно представить в качестве возможных угроз, по крайней мере, по сравнению с такими проблемами, как климатический кризис или благополучие животных, интуитивные последствия которых можно увидеть и почувствовать. «Это не всегда мешает мне спать по ночам», — говорит Стюарт о скрытой опасности, которую он ощущает. «Лично я не чувствую беспокойства в повседневной жизни. И это часть проблемы. Я, со всеми моими ресурсами и образованием, мне все еще трудно сформировать эмоциональную связь с этой проблемой». В прошлом году он опубликовал сообщение в блоге, в котором обдумывал следующие шаги, перечисляя в качестве возможных форм сопротивления «оккуп офисов ИИ», «перформативный вандализм офисов ИИ» и даже «саботаж вычислительной инфраструктуры ИИ».

Онгвесо из Нью-Йорка также обсуждает идею компьютерного саботажа. Он не думает, что это будет легко и маловероятно, если только сотрудники центров обработки данных, которые питают и поддерживают ИИ, не начнут чувствовать, что их собственные рабочие места или свободы находятся под угрозой. «Например, если люди забеспокоятся о том, что алгоритмы используются для оправдания увольнений, или если они забеспокоятся об алгоритмическом надзоре», — предполагает Онгвесо. Однако, как сразу отмечают банды TrashFuture, даже если некоторые из этих центров подвергаются саботажу, информация, которую они хранят, изменчива, многочисленна и наверняка имеет резервные копии где-то еще. «Эти вещи стали настолько абстрактными, — говорит Куинн, — что их физические проявления настолько далеки от столь многих людей».

Мы обречены? Или есть надежда? Будут ли помнить это поколение протестующих через 200 лет за их вмешательство – или к тому времени просто некому будет помнить об этом? Новые луддиты, с которыми я общаюсь, подходят к этим вопросам с разной степенью оптимизма или катастрофичности.

Крэбэппл, художник, выступивший против генераторов изображений, считает, что у всех нас должна быть возможность более откровенно считаться с грязной изнанкой кажущейся чистой технологии. «Возьмите эту прекрасную идею цифрового облака», — говорит она. Мы говорим об облаке так, как будто оно нейтральное, неизменное, что-то доброе. Ведь это облако. «Но здесь нет никакого чертового облака, — говорит Крабаппл, — есть компьютеры других людей. Существуют огромные центры обработки данных, которые поглощают воду, электричество и редкоземельные металлы, буквально кипятя планету… Для меня успех луддитов будет выглядеть как социальный сдвиг, когда мы спрашиваем себя: «Почему мы сжигаем нашу планету?» Делаете нашу жизнь еще дерьмовее? Избавиться от каждой последней крупицы нашей автономии и конфиденциальности только для того, чтобы разбогатеть несколько парней?» Затем, возможно, начали что-то делать с этим законодательно».

Онгвесо тоже начал бы с законодательства. Он был бы рад чему-то маленькому, достижимому, символическому масштабу, чему-то, что подготовило бы почву для более обширных законов в будущем. «Предпринимает меры по предотвращению и ограничению возможности ИИ троллить Интернет и брать работы, защищенные авторским правом, тренировать свою модель на уже созданных работах писателей и художников – это кажется возможным прямо сейчас и может стать лестницей в серию побед».

Что другие хотели бы, чтобы мы сделали? Стюарт, солдат, ставший аспирантом, хочет ввести мораторий на разработку ИИ до тех пор, пока мы не поймем их лучше – до тех пор, пока шансы, подобные русской рулетке, не улучшатся. Юдковский хотел бы, чтобы мы заморозили все сегодня, сию минуту. «Можно сказать, что никому не разрешено тренировать что-то более мощное, чем GPT-4», — предполагает он. «Человечество могло бы решить не умирать, и это было бы не так уж сложно».

Куинн, более мягкий, придерживающийся золотой середины, выдвигает идею о том, что мы перестанем испытывать головокружение и быть благодарными за каждое новое придуманное аппаратное и программное обеспечение. «Постоянно существует требование уважения, — говорит он, — требование говорить, что мир прекрасен, потому что вы можете нажимать кнопки на своем iPhone и пить кофе в Starbucks. Вас заставляют чувствовать, что вам не разрешено критиковать, и вы должны сказать «спасибо», иначе блестящие гении, создающие эти вещи, могут больше не создавать. И не пожалеешь ли ты тогда? Садовский соглашается. «Технологии слишком важны, чтобы рассматривать их как просто набор изящных гаджетов, и они слишком мощны, чтобы оставлять их в руках руководителей-миллиардеров и венчурных капиталистов», — говорит он. «Луддиты хотят, чтобы технологии – будущее – работали на всех нас».

Хилтон, который собирается записать очередной выпуск своего радиочаса луддитов, говорит: «Классический луддизм потерпел неудачу. Но оно, очевидно, выстояло, поскольку продолжает оказывать это притяжение. Сломанный ткацкий станок – это образ, который вошел в историю. Возможно, это запомнилось как символический жест. Возможно, это запомнилось как жест гнева. Но это помнится». Что могло бы стать определяющим жестом этой эпохи? Письма, законы, разрушенные камеры Ring, авиаудары? «Исторические луддиты пытались заставить систему кричать», — говорит Онгвесо. «Это послужило катализатором последующих изменений. Это часть нового проекта луддитов — попытаться выяснить, как сделать то же самое».

Источник