По мнению ученых из Калифорнийского университета в Ирвайне и Массачусетского технологического института, опубликовавших в начале этого года на сайте открытого доступа arXiv.org работу, которая перевернула представления об энергопотреблении генеративных моделей искусственного интеллекта и вызвала на прошлой неделе дискуссию среди ведущих исследователей и экспертов в области ИИ, углеродный след искусственного интеллекта не является однозначным вопросом.
В работе было установлено, что при создании страницы текста система ИИ, такая как ChatGPT, выбрасывает в 130-1500 раз меньше CO2e (эквивалента углекислого газа) по сравнению с человеком.
Аналогично, при создании изображения система искусственного интеллекта, такая как Midjourney или DALL-E 2, выбрасывает в атмосферу в 310-2900 раз меньше CO2e.
В статье делается вывод о том, что использование ИИ способно обеспечить выполнение ряда важных работ с существенно меньшими выбросами, чем у человека.
Однако продолжающийся диалог между исследователями ИИ, отреагировавшими на эту статью на этой неделе, также подчеркивает, что учет взаимодействия между климатом, обществом и технологиями представляет собой огромную проблему, требующую постоянного переосмысления.
От блокчейна до моделей ИИ — экологические эффекты необходимо измерять
В интервью VentureBeat авторы статьи, профессора Калифорнийского университета в Ирвайне Билл Томлинсон и Дон Паттерсон, а также приглашенный научный сотрудник Слоуновской школы менеджмента Массачусетского технологического института Эндрю Торранс, высказали некоторые соображения о том, что именно они хотели измерить.
Томлинсон сообщил, что работа, опубликованная в марте, была направлена в научный журнал Scientific Reports, где в настоящее время находится на рецензировании.
Авторы исследования проанализировали существующие данные о воздействии на окружающую среду систем искусственного интеллекта, человеческой деятельности, а также производства текстов и изображений. Эта информация была собрана из исследований и баз данных, изучающих влияние ИИ и человека на окружающую среду.
Например, для ChatGPT использовалась неофициальная онлайн-оценка, основанная на трафике в 10 млн. запросов, генерирующих примерно 3,82 метрические тонны CO2e в день, при этом амортизируя след от обучения в 552 метрические тонны CO2e. Кроме того, для дальнейшего сравнения они включили данные, полученные с помощью малоэффективной LLM под названием BLOOM.
Что касается человеческой стороны вопроса, то для сравнения различных эффектов выбросов на душу населения в течение времени, необходимого для написания страницы текста или создания изображения, использовались примеры годового углеродного следа среднестатистических жителей США (15 метрических тонн) и Индии (1,9 метрических тонн).
Исследователи подчеркнули важность измерения выбросов углерода в результате различных видов деятельности, таких как искусственный интеллект, для обоснования политики в области устойчивого развития.
«Без такого анализа мы не сможем принять ни одного разумного политического решения о том, как направлять или регулировать будущее ИИ», — сказал Патерсон в эксклюзивном телефонном интервью VentureBeat. «Нам нужна какая-то обоснованная информация, какие-то данные, на основе которых мы сможем сделать следующий шаг».
Томлинсон также отметил личные вопросы, вдохновляющие их работу: «Я хотел бы иметь возможность жить в рамках того, что может выдержать окружающая среда Земли», — сказал он. «Возможно, использовать ИИ в качестве творческого средства, не причиняя при этом ужасного вреда… Но если это будет приносить большой вред, я прекращу работать с ИИ».
Паттерсон добавил некоторый контекст к своему предыдущему анализу технологии блокчейн. «Влияние алгоритмов proof-of-work на окружающую среду довольно часто фигурирует в новостях. Поэтому я думаю, что это естественное развитие событий, чтобы подумать о воздействии на окружающую среду и других действительно огромных, охватывающих все общество инструментов, таких как большие языковые модели».
Отвечая на вопрос о переменных, которые могут изменить неожиданный результат, обнаруженный в работе, Томлинсон признал возможность «эффекта отскока», когда повышение эффективности приводит к росту потребления.
Он представил себе «мир, в котором все медиа, которые мы когда-либо смотрим или потребляем, динамически адаптируются к вашим предпочтениям, так что все персонажи выглядят немного похожими на вас, музыка слегка соответствует вашим вкусам, а все темы слегка подтверждают ваши предпочтения различными способами».
Торренс отметил, что «мы живем в мире сложных систем. Неизбежной реальностью сложных систем является непредсказуемость их результатов».
Он сформулировал свою работу как рассмотрение «не одной, не двух, а трех различных сложных систем» — климата, общества и ИИ. Их вывод о том, что ИИ может снизить уровень выбросов, «может показаться многим удивительным». Однако в контексте этих трех сталкивающихся сложных систем вполне разумно, что люди могли неверно предположить, каким может быть ответ.
Продолжающиеся дебаты
На этой неделе статья привлекла повышенное внимание ИИ-сообщества, когда главный специалист по ИИ компании Meta* Янн ЛеКун разместил график из нее в своем социальном аккаунте в X (бывший Twitter) и использовал его для утверждения, что «использование генеративного ИИ для создания текста или изображений выбрасывает на 3-4 порядка меньше CO2, чем выполнение этой работы вручную или с помощью компьютера».
Это привлекло внимание и вызвало возражения со стороны критиков методологии исследования при сравнении выбросов углерода человеком и моделями ИИ.
«Нельзя просто взять оценку общего углеродного следа человека за всю его жизнь, а затем приписать ее его профессии», — заявила в беседе с VentureBeat Саша Лучиони, исследователь ИИ и руководитель отдела климата в HuggingFace. «Это первая фундаментальная вещь, которая не имеет смысла. И второе: сравнивать человеческие следы с оценкой жизненного цикла или энергетическими следами не имеет смысла, поскольку нельзя сравнивать людей с объектами».
Анализ жизненного цикла все еще находится на ранней стадии, реальные данные остаются скудными
Паттерсон признал, что при количественной оценке выбросов от деятельности человека «провести какой-либо анализ общих энергозатрат сложно, поскольку все взаимосвязано». Томлинсон согласился с тем, что необходимо установить границы, но утверждал, что «существует целая область, называемая оценкой жизненного цикла, которой мы более подробно занимаемся в статье, находящейся на рецензировании».
Лучиони из HuggingFace согласна с тем, что такую работу необходимо проводить, однако подход, использованный авторами исследования, был ошибочным. Помимо прямолинейного подхода, при котором напрямую сравниваются люди и модели искусственного интеллекта, Лучиони отметила, что фактические данные, которые позволили бы точно количественно оценить эти экологические эффекты, остаются скрытыми и закрытыми. Она также отметила, возможно, с некоторой иронией, что исследователи использовали ее работу для измерения выбросов углекислого газа языковой модели BLOOM.
Без доступа к ключевым деталям, касающимся использования аппаратного обеспечения, энергопотребления и источников энергии, оценка углеродного следа невозможна. Если у вас отсутствует хотя бы одно из этих трех чисел, это не оценка углеродного следа», — говорит Лучиони.
Самая большая проблема — это отсутствие прозрачности со стороны технологических компаний. Лучиони объясняет это следующим образом: «У нас нет такой информации по GPT. Мы не знаем, насколько он велик. Мы не знаем, где он работает. Мы не знаем, сколько энергии он потребляет. Мы не знаем ничего из этого». Без открытого обмена данными влияние ИИ на выбросы углерода будет оставаться неопределенным.
Исследователи подчеркнули необходимость прозрачного, научно обоснованного подхода к этим сложным вопросам, а не голословных утверждений. По словам Торренса, «наука — это согласованный подход к постановке вопросов и ответам на них, который сопровождается прозрачным набором правил… Мы приглашаем других проверить наши результаты с помощью науки или любого другого подхода, который они предпочитают».
*Meta признана экстремистcкой организацией в России.