Затраты на создание продукта искусственного интеллекта, такого как ChatGPT, сложно измерить. Но для своей технологии OpenAI, поддерживаемой Microsoft, требовалось много воды, добываемой из водораздела рек Раккун и Де-Мойн в центральной Айове для охлаждения мощного суперкомпьютера, поскольку она помогала обучать его системы искусственного интеллекта имитировать человеческое письмо. Стремясь извлечь выгоду из увлечения генеративным искусственным интеллектом, ведущие разработчики технологий, включая Microsoft, OpenAI и Google, признали, что растущий спрос на их инструменты искусственного интеллекта влечет за собой огромные затраты: от дорогих полупроводников до увеличения потребления воды. Но они часто скрывают подробности. Мало кто в Айове знал о статусе штата как места рождения самой продвинутой модели большого языка OpenAI, GPT-4, прежде чем один из топ-менеджеров Microsoft заявил в своей речи, что она «буквально была создана рядом с кукурузными полями к западу от Де-Мойна».
Построение большой языковой модели требует анализа закономерностей в огромном количестве рукописного текста. Все эти вычисления потребляют много электроэнергии и выделяют много тепла. Чтобы поддерживать прохладу в жаркие дни, центрам обработки данных приходится закачивать воду — часто в градирню за пределами зданий размером со склад. В своем последнем экологическом отчете Microsoft сообщила, что ее глобальное потребление воды выросло на 34% в период с 2021 по 2022 год (почти до 1,7 миллиарда галлонов, или более 2500 плавательных бассейнов олимпийского размера), что является резким увеличением по сравнению с предыдущими годами, с которым связывают сторонние исследователи. его исследования в области искусственного интеллекта. «Справедливо сказать, что большая часть роста связана с искусственным интеллектом», включая «его крупные инвестиции в генеративный искусственный интеллект и партнерство с OpenAI», — сказал Шаолей Рен, исследователь из Калифорнийского университета в Риверсайде, который пытался подсчитать воздействие на окружающую среду продуктов генеративного искусственного интеллекта, таких как ChatGPT.
В статье, которая будет опубликована позднее в этом году, команда Рена подсчитала, что ChatGPT глотает 500 миллилитров воды (приблизительно столько, сколько содержится в бутылке с водой емкостью 16 унций) каждый раз, когда вы задаете ему серию из 5–50 подсказок или вопросов. Диапазон варьируется в зависимости от того, где расположены его серверы и сезона. Оценка включает косвенное использование воды, которое компании не измеряют, например, для охлаждения электростанций, снабжающих центры обработки электроэнергией. «Большинство людей не знают об использовании ресурсов, лежащих в основе ChatGPT», — сказал Рен. «Если вы не знаете об использовании ресурсов, мы не сможем помочь их сохранить». Google сообщила о 20-процентном росте потребления воды за тот же период, что Рен также во многом объясняет своей работой в области искусственного интеллекта. Рост Google не был равномерным: он был стабильным в Орегоне, где потребление воды привлекло внимание общественности, а за пределами Лас-Вегаса оно удвоилось. В Айове также была жажда: в центры обработки данных в Каунсил-Блафф поступало больше питьевой воды, чем где-либо еще.
Отвечая на вопросы Associated Press, Microsoft заявила в своем заявлении на этой неделе, что инвестирует в исследования по измерению энергопотребления и углеродного следа ИИ, «при этом работая над способами сделать большие системы более эффективными как в обучении, так и в применении». «Мы продолжим следить за нашими выбросами, ускорять прогресс, одновременно увеличивая использование чистой энергии для питания центров обработки данных, закупая возобновляемую энергию и предпринимая другие усилия для достижения наших целей устойчивого развития: добиться отрицательного уровня выбросов углерода, положительного использования воды и нулевых отходов к 2030 году», — заявили в компании. говорится в заявлении компании. OpenAI повторила эти комментарии в своем заявлении в пятницу, заявив, что «серьезно думает» о наилучшем использовании вычислительной мощности. «Мы понимаем, что обучение больших моделей может быть энерго- и водоемким», и работаем над повышением эффективности, говорится в сообщении.
Microsoft сделала свои первые инвестиции в размере 1 миллиарда долларов в базирующуюся в Сан-Франциско OpenAI в 2019 году, более чем за два года до того, как стартап представил ChatGPT и вызвал во всем мире интерес к достижениям в области искусственного интеллекта. В рамках сделки софтверный гигант предоставит вычислительную мощность, необходимую для обучения моделей ИИ. Чтобы выполнить хотя бы часть этой работы, обе компании обратились к Западному Де-Мойну, штат Айова, городу с населением 68 000 человек, где Microsoft уже более десяти лет собирает центры обработки данных для обеспечения своих услуг облачных вычислений. Позднее в этом году там должны открыться четвертый и пятый дата-центры. «Они строят их так быстро, как только могут», — сказал Стив Гаер, который был мэром города, когда в город пришла Microsoft. Гаер сказал, что компанию привлекли обязательства города по строительству общественной инфраструктуры, и она внесла «ошеломляющую» сумму денег в виде налоговых платежей, которые поддерживают эти инвестиции. «Но, вы знаете, они довольно скрытно рассказывают о том, что они там делают», — добавил он.
Microsoft впервые заявила, что разрабатывает один из самых мощных в мире суперкомпьютеров для OpenAI в 2020 году, отказавшись тогда сообщить AP о его местонахождении, но охарактеризовав его как «единую систему» с более чем 285 000 ядрами обычных полупроводников и 10 000 графическими процессорами. — своего рода чип, который стал иметь решающее значение для рабочих нагрузок ИИ. Эксперты заявили, что имеет смысл «предварительно обучить» модель ИИ в одном месте из-за больших объемов данных, которые необходимо передавать между вычислительными ядрами. Лишь в конце мая президент Microsoft Брэд Смит сообщил, что компания построила свой «современный суперкомпьютерный центр обработки данных искусственного интеллекта» в Айове исключительно для того, чтобы дать возможность OpenAI обучать тому, что стало ее моделью четвертого поколения, GPT-4. Эта модель теперь используется в премиальных версиях ChatGPT и некоторых собственных продуктах Microsoft и ускорила дебаты о сдерживании социальных рисков, связанных с ИИ. «Он был создан этими выдающимися инженерами в Калифорнии, но на самом деле он был сделан в Айове», — сказал Смит.
В некотором смысле Западный Де-Мойн является относительно эффективным местом для обучения мощной системы искусственного интеллекта, особенно по сравнению с центрами обработки данных Microsoft в Аризоне, которые потребляют гораздо больше воды для тех же вычислительных потребностей. «Поэтому, если вы разрабатываете модели ИИ в Microsoft, вам следует запланировать обучение в Айове, а не в Аризоне», — сказал Рен. «С точки зрения тренировок нет никакой разницы. С точки зрения потребления воды или энергии разница большая». Большую часть года погода в Айове достаточно прохладная, чтобы Microsoft могла использовать наружный воздух для поддержания правильной работы суперкомпьютера и отвода тепла из здания. Только когда температура превышает 29,3 градуса по Цельсию (около 85 градусов по Фаренгейту), он забирает воду, говорится в сообщении компании. Воды все равно может быть много, особенно летом. По данным компании West Des Moines Water Works, в июле 2022 года, за месяц до того, как OpenAI заявила, что завершила обучение GPT-4, Microsoft закачала около 11,5 миллионов галлонов воды в свой кластер центров обработки данных в Айове. Это составило около 6% всей воды, используемой в районе, который также снабжает питьевой водой жителей города.
В 2022 году в документе компании West Des Moines Water Works говорилось, что правительство города «будет рассматривать будущие проекты центров обработки данных» от Microsoft только в том случае, если эти проекты смогут «продемонстрировать и внедрить технологию, позволяющую значительно снизить пиковое потребление воды по сравнению с текущим уровнем». сохранить запасы воды для жилых и других коммерческих нужд. В четверг Microsoft заявила, что работает напрямую с водопроводными предприятиями, чтобы учесть их отзывы. В письменном заявлении водоканала говорится, что компания была хорошим партнером и работала с местными властями над сокращением загрязнения воды, при этом удовлетворяя свои потребности.
