Стоимость создания такого продукта искусственного интеллекта, как ChatGPT, трудно измерить.
Но для создания технологии OpenAI, поддерживаемой корпорацией Microsoft, потребовалось много воды, взятой из водораздела рек Раккун и Де-Мойн в центральной части штата Айова для охлаждения мощного суперкомпьютера, который помогал обучать системы искусственного интеллекта имитировать человеческое письмо.
Стремясь извлечь выгоду из повального увлечения генеративным искусственным интеллектом, ведущие технологические разработчики, включая Microsoft, OpenAI и Google, признают, что растущий спрос на их инструменты искусственного интеллекта влечет за собой значительные расходы — от дорогостоящих полупроводников до увеличения потребления воды.
Однако они часто скрывают конкретные детали. Мало кто в Айове знал о том, что она является родиной самой передовой большой языковой модели OpenAI — GPT-4, пока один из руководителей Microsoft не заявил в своей речи, что она «буквально создана рядом с кукурузными полями к западу от Де-Мойна».
Построение большой языковой модели требует анализа закономерностей в огромном массиве написанного человеком текста. Все эти вычисления требуют много электроэнергии и выделяют много тепла. Для охлаждения в жаркие дни центрам обработки данных необходимо подавать воду — часто в градирни, расположенные за пределами зданий складского типа.
В своем последнем экологическом отчете Microsoft сообщила, что в период с 2021 по 2022 год глобальное потребление воды увеличилось на 34% (почти до 1,7 млрд. галлонов, или более 2500 бассейнов олимпийского размера), что является резким ростом по сравнению с предыдущими годами, и сторонние исследователи связывают это с исследованиями в области искусственного интеллекта.
«Справедливости ради следует отметить, что большая часть роста связана с ИИ», включая «значительные инвестиции в генеративный ИИ и партнерство с OpenAI», — говорит Шаолей Рен, исследователь из Калифорнийского университета в Риверсайде, который пытался рассчитать воздействие на окружающую среду продуктов генеративного ИИ, таких как ChatGPT.
В своей работе, которая должна быть опубликована в конце этого года, команда Рена подсчитала, что ChatGPT потребляет 500 миллилитров воды (примерно столько же, сколько содержится в 16-унциевой бутылке) каждый раз, когда вы задаете ему от 5 до 50 вопросов. Этот показатель зависит от местонахождения серверов и времени года. Оценка включает косвенное использование воды, которое компании не измеряют, например, для охлаждения электростанций, снабжающих центр обработки данных электроэнергией.
«Большинство людей не знают о том, какие ресурсы используются в ChatGPT, — говорит Рен. «Если вы не знаете о потреблении ресурсов, то мы никак не сможем помочь их сберечь».
Компания Google сообщила о 20%-ном росте потребления воды за тот же период, что Рен также в значительной степени связывает с работой искусственного интеллекта. Всплеск Google не был равномерным: в Орегоне, где водопотребление компании привлекло внимание общественности, оно было стабильным, а за пределами Лас-Вегаса — удвоилось. В штате Айова компания также испытывала жажду, потребляя больше питьевой воды в своих центрах обработки данных в Каунсил-Блафф, чем где-либо еще.
Отвечая на вопросы The Associated Press, Microsoft в своем заявлении на этой неделе сообщила, что инвестирует средства в исследования по измерению энергопотребления и выбросов углекислого газа ИИ, «работая над тем, как сделать большие системы более эффективными как в обучении, так и в применении».
«Мы продолжим отслеживать наши выбросы, ускорим прогресс, увеличивая использование экологически чистой энергии для питания центров обработки данных, закупая возобновляемые источники энергии, и предпримем другие усилия для достижения наших целей в области устойчивого развития — к 2030 году стать углеродно-отрицательными, водоположительными и безотходными», — говорится в заявлении компании.
В пятницу компания OpenAI присоединилась к этим замечаниям, заявив, что она «тщательно обдумывает» вопрос о наиболее эффективном использовании вычислительных мощностей.
«Мы признаем, что обучение больших моделей может быть энерго- и водозатратным», и работаем над повышением эффективности, говорится в заявлении.
Microsoft впервые инвестировала 1 млрд долл. в компанию OpenAI из Сан-Франциско в 2019 году, более чем за два года до того, как стартап представил ChatGPT и вызвал во всем мире интерес к достижениям в области искусственного интеллекта. В рамках сделки гигант софта предоставил вычислительные мощности, необходимые для обучения моделей ИИ.
Для выполнения хотя бы части этой работы обе компании обратились к Западному Де-Мойну (штат Айова) — городу с населением 68 тыс. человек, где Microsoft уже более десяти лет собирает центры обработки данных для предоставления своих услуг в области облачных вычислений. В конце этого года там должны открыться четвертый и пятый центры обработки данных.
«Они строят их так быстро, как только могут», — говорит Стив Гаер, который был мэром города, когда в нем появилась Microsoft. По словам Гаера, компанию привлекло стремление города к созданию общественной инфраструктуры, и она внесла «ошеломляющую» сумму денег в виде налоговых платежей, которые поддерживают эти инвестиции.
«Но, знаете, они довольно скрытно рассказывали о том, что они там делают», — добавил он.
Впервые Microsoft заявила о разработке одного из самых мощных в мире суперкомпьютеров для OpenAI в 2020 году, отказавшись сообщить AP его местоположение, но описав его как «единую систему» с более чем 285 000 ядер обычных полупроводников и 10 000 графических процессоров — тип чипа, ставший ключевым для рабочих нагрузок ИИ.
Эксперты отмечают, что из-за большого объема данных, которые необходимо передавать между вычислительными ядрами, имеет смысл проводить «предварительное обучение» модели ИИ в одном месте.
Только в конце мая президент Microsoft Брэд Смит сообщил, что компания построила «передовой суперкомпьютерный вычислительный центр ИИ» в штате Айова исключительно для того, чтобы OpenAI мог обучать свою модель четвертого поколения GPT-4. Эта модель теперь используется в премиум-версиях ChatGPT и некоторых продуктах Microsoft и ускорила дискуссию о сдерживании социальных рисков ИИ.
«Она была создана этими выдающимися инженерами в Калифорнии, но на самом деле она была создана в Айове», — говорит Смит.
В некотором смысле Западный Де-Мойн является относительно эффективным местом для обучения мощной системы искусственного интеллекта, особенно по сравнению с центрами обработки данных Microsoft в Аризоне, которые потребляют гораздо больше воды при тех же вычислительных потребностях.
«Поэтому если вы разрабатываете модели ИИ в Microsoft, то вам следует планировать обучение в Айове, а не в Аризоне», — говорит Рен. «С точки зрения обучения разницы нет. А вот с точки зрения потребления воды или энергии — это большая разница».
Большую часть года погода в Айове достаточно прохладная, поэтому Microsoft использует наружный воздух для поддержания нормальной работы суперкомпьютера и отвода тепла из здания. Только когда температура превышает 29,3 градуса Цельсия (около 85 градусов по Фаренгейту), происходит забор воды, говорится в обнародованном сообщении компании.
Это все равно может быть очень много воды, особенно летом. В июле 2022 года, за месяц до того, как OpenAI заявила о завершении обучения GPT-4, Microsoft закачала в свой кластер дата-центров в Айове около 11,5 млн. галлонов воды, согласно данным West Des Moines Water Works. Это составило около 6% всей воды, используемой в районе, который также снабжает питьевой водой жителей города.
В 2022 году в документе West Des Moines Water Works говорится, что компания и городские власти «будут рассматривать будущие проекты центров обработки данных» Microsoft только в том случае, если эти проекты смогут «продемонстрировать и внедрить технологии, позволяющие значительно снизить пиковое водопотребление по сравнению с текущим уровнем», чтобы сохранить запасы воды для жилых и других коммерческих нужд.
В четверг компания Microsoft заявила, что работает непосредственно с водоканалом над устранением замечаний. В своем письменном заявлении водоканал отметил, что компания является хорошим партнером и сотрудничает с местными властями, чтобы уменьшить свое воздействие на водоснабжение и при этом удовлетворить свои потребности.