|
Что нужно для достижения Сингулярности
|
|
|
|
Когда-то казалось, что мир состоит из более крупных строительных блоков. Дождь падал из чего-то похожего на непрозрачные, пухлые массы, которые также закрывали Солнце. Человеческое тело казалось самодостаточным и прочным, и не было способа доказать обратное. Даже когда алхимики плавили куски руды, они думали, что ртуть должна быть связана с серебром. Как могло быть иначе? В конце концов, они выглядели одинаково.
|
|
|
|
Мы знаем, что Вселенная сама по себе движется к беспорядку, но наши знания о Вселенной смещаются к минимуму. Более высокое разрешение, более мощный зум, электронные микроскопы, ускорители частиц, ядерная энергия. Что касается технологий, то обеспечение такого уровня детализации перешло в широкую сферу применения компьютерных чипов, и компьютерные чипы также в некотором смысле получили более высокое разрешение.
|
|
|
|
На базовом уровне компьютеры используют схемы — тщательно продуманные последовательности соединений между различными проводящими или полупроводниковыми частями — для выполнения множества арифметических операций. В ранних перфокартах (предшественниках чипов, которые мы используем сейчас) были отверстия, так что части схемы могли в буквальном смысле соединяться, например, играть определенные ноты на пианино определенными пальцами или соединять телефонные линии на старом коммутаторе. Но наши знания об электронике стали настолько малы, что их почти невозможно постичь.
|
|
|
|
|
|
|
В 1960-х годах, в разгар мирового полупроводникового бума, инженер Гордон Мур выступил с докладом, в котором высказал свое наблюдение. Мур был соучредителем компании Intel, пионера в производстве компьютерных чипов, и именно там он заметил, что транзисторы — переключатели, используемые для управления током в электрических устройствах, — сокращаются с довольно постоянной скоростью. Это привело к изобретению в 1958 году интегральной схемы, которую можно было устанавливать в устройства, ранее построенные на одном транзисторе за раз.
|
|
|
|
Мур продемонстрировал ставший уже культовым график изменения количества компонентов в интегральной схеме с течением времени, который предсказывал, что общий темп роста будет удваиваться примерно каждые два года в период с 1962 по 1970 год, который он экстраполировал. В сопроводительной лекции он предположил, что эта тенденция может сохраниться в течение следующих десяти лет (до 1975 года). Но закон Мура, как его позже назвали, действовал на протяжении десятилетий после первоначального прогноза. Это стало каноном в программах по информатике по всему миру (хотя никогда не было и не предполагалось, что это будет жестким правилом).
|
|
|
|
Но в последние несколько лет представители компьютерной индустрии (и те, кто ее изучает) начали обсуждать “конец закона Мура”. Есть момент, когда транзисторы просто не могут стать еще меньше из—за основ самой физики - эти крошечные транзисторы все еще должны быть способны работать в режиме реального времени. чтобы взаимодействовать с остальным оборудованием, необходимым для создания интегральной схемы, быть широко производимым и оставаться экономически эффективным.
|
|
Парадокс Мура?
|
|
|
|
Некоторое время было заметно замедление применения закона Мура. Из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического института (CSAIL).:
|
|
|
|
Если вы спросите профессора Массачусетского технологического института Чарльза Лейзерсона, то он скажет, что закон Мура действует по меньшей мере с 2016 года. [Он] отмечает, что Intel потребовалось пять лет, чтобы перейти с 14-нанометровой технологии (2014) на 10-нанометровую технологию (2019), а не два года, как предсказывал закон Мура.
|
|
|
|
Но эта реальность, как и реальность самой физики, несколько расходится с широко рекламируемыми корпоративными технологиями 2025 года. Такие компании, как OpenAI, дают туманные обещания о том, что генеративный ИИ изменит всю нашу жизнь, сэкономит нам часы в неделю и сделает многие отрасли человеческого труда устаревшими. Венчурные капиталисты воспользовались этими обещаниями, чтобы привлечь инвесторов, в то время как такие компании, как Microsoft, начали принуждать своих сотрудников использовать генеративный искусственный интеллект на рабочем месте.
|
|
|
|
Вы можете противостоять замедлению роста производительности транзисторов, просто создавая все более и более мощные компьютеры. Производители и компании, работающие с генеративным ИИ, уже делают это. Они также разрабатывают все остальные элементы этих машин, чтобы они были максимально эффективными. Но это не является долгосрочным решением проблемы растущего спроса на такое количество вычислительной техники. Подобно руководству поздней Римской империи или глазури на сухом торте, наши компьютерные компоненты нельзя распределять слишком тонким слоем.
|
|
|
|
Однако, если вы богаты и вам не нравится идея ограничения вычислений, вы можете обратиться к футуризму, долгосрочной перспективе или “оптимизму в области искусственного интеллекта”, в зависимости от того, что вам больше нравится. Люди в этих лагерях верят в то, что искусственный интеллект должен развиваться как можно быстрее, чтобы мы могли (как они утверждают) установить ограждения, которые не позволят ИИ выйти из-под контроля или стать злом. (Сегодня люди, похоже, не могут — или не хотят — контролировать, становятся ли их чат-боты расистскими, “чувственными” по отношению к детям или вызывают психоз у населения в целом, но это точно.)
|
|
|
|
Цель этих ускорителей ИИ известна как искусственный интеллект общего назначения, или AGI. Они теоретизируют или даже надеются на создание ИИ, настолько мощного, что он будет думать как... ну... человеческий разум, возможности которого усилены миллиардом компьютеров. Если кто-то когда-нибудь создаст УЧИ, превосходящий человеческий интеллект, этот момент будет известен как сингулярность ИИ. (В физике существуют и другие, не связанные с этим особенности) Оптимисты в области ИИ хотят ускорить сингулярность и ввести этот “богоподобный” УЧИ.
|
|
Предсказуемость
|
|
|
|
Один из ключевых фактов компьютерной логики заключается в том, что, если вы сможете достаточно замедлить процессы и рассмотреть их достаточно подробно, вы сможете отслеживать и прогнозировать все, что будет делать программа. Алгоритмы (а не непрозрачный искусственный интеллект) управляют всем, что происходит в компьютере. На протяжении десятилетий эксперты описывали точные способы передачи информации по одному биту — одному крошечному электрическому разряду — за раз через центральный процессор (CPU).
|
|
|
|
Затем эти фрагменты объединяются в несколько более конкретный формат в виде другого типа кода. Этот код становится еще одним слоем, и так до тех пор, пока не появится игра в пасьянс, потоковое видео или документ Microsoft Word. Сети работают точно так же: ваше видео или документ разбиваются на части, а затем разбиваются все дальше и дальше, пока крошечные пакеты данных не смогут передаваться туда и обратно подобно электрическим разрядам по длинным проводам.
|
|
|
|
Человеческий мозг - это, в некотором смысле, еще одна часть электрического механизма. Национальный институт стандартов и технологий (NIST) оценивает его как компьютер экзафлопсного класса: “миллиард-миллиард математических операций (единица с 18 нулями) в секунду при мощности всего в 20 Ватт”. В соответствии с этим стандартом, вы можете подключить десятки человеческих мозгов к одной домашней розетке в США. NIST ссылается на суперкомпьютер мирового класса Oak Ridge Frontier, который требует “в миллион раз больше мощности” для выполнения вычислений того же уровня.
|
|
|
|
Вполне возможно, что человеческий мозг также предсказуем, если вы достаточно хорошо понимаете все его части и факторы, влияющие на него. Но наш мозг имеет мало общего с абстрактным математическим устройством наших компьютеров. Самые ранние компьютеры были механическими, с физическими частями, которые визуально соединялись и перемещались друг с другом. И, несмотря на то, что в культовой и пользующейся огромным влиянием статье утверждается обратное, клетка не похожа на машину. (Митохондрии, вы все еще можете быть “локомотивом”!)
|
|
|
|
Калифорнийский технологический институт (Caltech) опубликовал руководство по работе мозга:
|
|
|
|
Когда вы думаете, сети клеток посылают сигналы по всему вашему мозгу. Эти сети объединяют новую информацию, получаемую от органов чувств, с эмоциями, привычными мыслительными процессами, воспоминаниями и контекстом, что позволяет принимать решения.
|
|
|
|
Например, когда вы видите лицо друга, сеть нервных клеток начинает работать. Ваш мозг использует несколько быстрых измерений, чтобы определить, кто этот друг, отмечает, как ваше тело непроизвольно реагирует на его появление, генерирует эмоциональную реакцию, сопоставляет это зрелище с воспоминаниями и текущими событиями, выбирает ответную реакцию и, возможно, приказывает вашей руке и лицу помахать и улыбнуться.
|
|
|
|
По мере того как вы превращались из младенца в человека, которым являетесь сегодня, ваши ощущения, ваш опыт, ваши решения и размышления меняли ваш мозг, развивая его уникальные клеточные пути.
|
|
|
|
Существует бесчисленное множество способов улучшить или ослабить работу человеческого мозга, которые мы пока не можем измерить. Мы даже не знаем, почему многие распространенные антидепрессанты и другие лекарства воздействуют на мозг — просто они это делают. Мы не можем предсказать, когда тот или иной оборот речи или “определенный угол освещения“ напомнит нам о детстве, популярном телешоу, о том, что мы ели на ужин на днях, или о паре туфель, которые мы носили раньше. Еще много лет отделяют нас от представления о мозге в виде диаграмм так, как мы понимаем, что такое производимые компьютерные компоненты.
|
|
Вычислительная мощность
|
|
|
|
Из-за этого пробела в понимании нет никакой гарантии, что определенный объем вычислительной мощности, сравнимый с человеческим мозгом (или даже миллионом человеческих мозгов), станет разумным или обретет сознание. Это кажется особенно актуальным, когда начинающие инженеры- “хранители ИИ” хотят, чтобы их ИИ знали все обо всей истории человечества.
|
|
|
|
Но давайте предположим, что эффективность или количество информации не являются проблемой. Давайте предположим, что мы можем построить компьютеры с производительностью в миллион экзафлопс для запуска передовых ИИ, которые будут имитировать человеческие мозговые центры. Как конец закона Мура повлияет на ученых, которые работают над достижением этой технологической сингулярности?
|
|
|
|
Ответ прост: размер. Это и объем потребляемой электроэнергии, и физический размер, связанный с хранением, обработкой, охлаждением и всем остальным, что требуется для поддержания работы компьютера. Есть несколько направлений, в которых мы могли бы решить проблему размера, но ни одно из них не является простым в исполнении.
|
|
|
|
Ускорители искусственного интеллекта продвигают ядерный синтез (еще одну технологию, до которой еще далеко) в качестве панацеи от энергетических проблем, связанных с большими вычислениями с использованием искусственного интеллекта. Но никто не знает наверняка, когда (и будет ли) ядерный синтез производить больше энергии, чем требуется для работы установок ядерного синтеза. Этого еще не произошло. Этого не произойдет еще долгие годы.
|
|
|
|
Существуют также космические возможности. Шкала Кардашева - это упражнение для размышления о цивилизациях масштаба Солнечной системы или галактики. По мере развития человечества следующим шагом по шкале Кардашева будет превращение целых планет в информационные фермы или сбор энергии целых звезд с помощью сфер Дайсона. Но если закон Мура был прогнозом, основанным на знаниях как в области технологий, так и в области глобальных цепочек поставок, то шкала Кардашева и сферы Дайсона - это мысленные упражнения, не имеющие аналогов в реальной жизни. Это научно-фантастические мечты.
|
|
|
|
На более глубоком уровне квантовые вычисления рекламируются как шаг вперед в области искусственного интеллекта, который в конечном итоге приведет к сингулярности. Но квантовые вычисления, мягко говоря, находятся в зачаточном состоянии. В настоящее время они требуют экстремального охлаждения, чего нет ни в одной из современных традиционных компьютерных систем. Потребительской версии квантового компьютера не существует, и мы даже близко к ней не подошли. Их, должно быть, кропотливо собирают вручную инженеры и физики с помощью таких приспособлений, как атомный пинцет.
|
|
|
|
Все это означает, что у нас есть множество вариантов, до реализации которых осталось как минимум 10 лет, а то и целых 100 или 1000 лет. Венчурные капиталисты сегодня предлагают видение будущего. Сегодня нет энергии ядерного синтеза, нет эффективных квантовых вычислений и нет сферы Дайсона.
|
|
|
|
Эра провала искусственного интеллекта (Exa)
|
|
|
|
“В этой голове мозг, ставящий в тупик,
|
|
В нем и под ним — задатки героев”. - Уолт Уитмен
|
|
|
|
В огромной области искусственного интеллекта существует бесчисленное множество способов определить цели и работать над их достижением, например, найти новые лекарства, отпускаемые по рецепту, или далекие галактики. УЧИ - это отдельная, специфическая идея, но даже в ней есть свои вариации. Общественный дискурс стал очень запутанным из-за двусмысленности таких терминов, как “искусственный интеллект”, вне их предполагаемого инженерного контекста.
|
|
|
|
Лично я считаю, что до AGI очень далеко, хотя некоторые очень умные люди, такие как Google DeepMind и специалист по информатике из Имперского колледжа Лондона Мюррей Шанахан, считают, что это ближе, чем я думаю. (Книга Шанахана о технологической сингулярности, опубликованная для MIT Press, - отличное введение).
|
|
|
|
Но другие, такие как Сэм Альтман из OpenAI, похоже, не понимают, о чем они говорят в деталях. Альтман отмахивается от вопросов о специфике технологий, в которых он не разбирается, в то время как Шанахан пишет подробные статьи о витгенштейновских философских тестах, с которыми все более успешно справляются модели искусственного интеллекта. Как говорится в меме, это не одно и то же.
|
|
|
|
Альтман предложил сферу Дайсона, которая, например, окружает нашу Солнечную систему, в качестве готового решения проблемы растущих затрат на энергию, связанных с искусственным интеллектом. В 2019 году более 750 миллионов человек на Земле по-прежнему не имели доступа к электричеству, еще более 400 миллионов не могут пользоваться местной электроэнергией, и оба показателя подвержены стагнации или даже ухудшению в связи с глобальной пандемией COVID-19.
|
|
|
|
Сфера Дайсона - это научно-фантастическое изобретение, не имеющее стабильной версии ни вблизи Земли, ни в окрестностях нашей звезды. Нам пришлось бы изъять из всей Солнечной системы (и даже больше!) определенные элементы, чтобы хотя бы построить то, что предлагает Альтман. В то время как закон Мура реален, многие факторы сингулярности таковыми не являются — по крайней мере, не в этом десятилетии. Изменение климата и глобальный энергетический кризис, тем не менее, очень и очень реальны.
|
|
|
|
Пример из практики: YInMn Blue
|
|
|
|
Многие утверждения об “искусственном интеллекте” сводятся к высокоразвитым алгоритмам в сочетании со способностью компьютеров тестировать миллионы или миллиарды конфигураций одновременно. Это один из лучших вариантов его использования, потому что человеческий разум просто не силен в такого рода работе. Точно так же, как мы можем оглядеть помещение, классифицировать и запомнить множество деталей с первого взгляда, компьютеры могут работать с огромными списками ингредиентов, не сбиваясь с ритма и не теряя своего места.
|
|
|
|
В 2024 году химик из Университета штата Орегон Мас Субраманьян (создатель нового пигмента YInMn Blue) рассказал изданию Popular Mechanics, что с алгоритмами открытия новых молекул сложно работать из-за факторов, которые общественность на самом деле не понимает. Например, найти новый пигмент не так—то просто - синий Иньмин имеет необычную кристаллическую структуру. Субраманьян объясняет, что химическая реакция, в результате которой образуется цвет, имеет бипирамидальную форму, а не четырехгранную или восьмигранную сеть. (Бипирамидальная форма подобна двум тетраэдрам, или формам “D4”, склеенным вместе. Восьмигранник имеет восемь граней различной формы.)
|
|
|
|
Непрофессионалу трудно понять, как подобные кристаллические структуры могут существенно повлиять на получение вещества. Но возьмем, к примеру, углерод. Графит и алмаз - это разные кристаллические формы одного и того же элемента.
|
|
|
|
Необходимость учета контекста является основным ограничением алгоритмов в том виде, в каком мы их знаем. Машинное обучение может подсказать вам, как вставить бриллиант в ваш новый карандаш или графит в обручальное кольцо.
|
|
|
|
Итак, объясняет Субраманьян, алгоритм машинного обучения предлагает длинный список, который должен быть проверен человеком, и многие предложения не работают в реальной жизни сразу. И поскольку эти модели обучаются на основе того, что уже существует, они не могут внедрять инновации в самом буквальном смысле этого слова. “Прорывное открытие происходит из неизвестного”, - сказал Субраманьян. “Если у вас нет этого в качестве отправной точки, как вы будете предсказывать?”
|
|
Вернемся к закону Мура
|
|
|
|
Применение закона Мура в качестве инженерного ориентира сегодня так же полезно для нас, как и оригинальная презентация Мура в 1960-х годах. Конкретные наблюдения, основанные на данных и логистике, могут помочь производителям по всему миру скорректировать планируемые продукты, исследования и разработки и даже маркетинг. Действительно, по мере того, как транзисторная индустрия приближается к пределам возможностей самой физики, они высвечивают пробел, с которым мы, как человеческий род, скоро столкнемся — в ближайшем будущем ничто не сможет заменить и превзойти существующую компьютерную парадигму.
|
|
|
|
Сегодня такие люди, как Сэм Альтман, скажут вам, что они продают вам строительные блоки сингулярности. Но, как выяснили жители Гэри, штат Индиана, из журнала "Мьюзик Мэн", тот, кто продает вам ваш первый тромбон, не должен говорить вам, что за него полагается место в Нью-Йоркском филармоническом оркестре. Основные результаты исследований искусственного интеллекта экспертного уровня звучат не как рекламные ролики или фонограммы - они больше похожи на пояснительную записку Шанахана, написанную после того, как он использовал некоторые неточные формулировки в статье, которая вышла из—под контроля и попала в основную прессу:
|
|
|
|
Мою статью “Разговор о больших языковых моделях” не раз интерпретировали как пропагандирующую редукционистскую позицию по отношению к большим языковым моделям. Но эта статья не была задумана таким образом, и я не поддерживаю подобные позиции. Эта короткая заметка помещает статью в контекст более масштабного философского проекта, который посвящен (неправильному) использованию слов, а не метафизике, в духе более поздних работ Витгенштейна.
|
|
|
|
Действительно, в контексте, где для “обобщения” используются большие языковые модели (LLM), внимательность Шанахана имеет большое значение. Его точность и исправления дают возможность другим специалистам в его области начать работу, независимо от того, согласны они с его позицией или нет. Он заключает: “Цель, скорее, состояла в том, чтобы напомнить читателям о том, насколько непохожи на людей системы, основанные на LLM, насколько по-разному они функционируют на фундаментальном, механистическом уровне, и призвать к осторожности при использовании антропоморфного языка в разговорах о них”.
|
|
|
|
Это сильно отличается от публичного заявления Альтмана о том, что ему, возможно, потребуется создать сферу Дайсона для всей Солнечной системы. Суть в том, что мы даже не знаем, как бы мы создали компьютер, достаточно большой, чтобы в нем нуждаться.
|
|
|
|
Источник
|
