Энергопотребление ИИ: Google раскрывает данные о Gemini и рисках для энергетики

Google только что объявил, что типичный запрос к приложению Gemini потребляет около 0,24 ватт-часа электроэнергии. Это примерно то же самое, что запуск микроволновки на одну секунду — для меня это звучит практически незначительно. Ведь я включаю микроволновку на гораздо больше секунд в повседневной жизни.

Я был рад увидеть этот отчет и приветствую большую открытость от ключевых игроков в мире ИИ относительно их оценки энергопотребления на запрос. Но я заметил, что некоторые люди берут эту цифру и приходят к выводу, будто нам не стоит беспокоиться о энергопотреблении ИИ. Это неверный вывод. Давайте разберемся, почему.


1. Эта цифра отражает не все запросы и упускает случаи, которые, вероятно, потребляют гораздо больше энергии.

Новый отчет Google учитывает только текстовые запросы. Предыдущие анализы, включая мои собственные исследования, показывают, что генерация фото или видео обычно требует больше электричества.

В разговоре с Джеффом Дином, главным ученым Google, он сказал, что компания пока не планирует подобный анализ для изображений и видео, но не исключает этого в будущем.

Причина, по которой начали с текстовых подсказок, — это то, что многие люди используют их в повседневной жизни, в то время как генерация изображений и видео пока не так распространена. Но я вижу все больше ИИ-изображений и видео в своих социальных сетях. Так что здесь не представлен целый мир запросов.

Кроме того, эта оценка — медиана, то есть среднее значение в диапазоне запросов Google. Более длинные вопросы и ответы могут увеличивать энергопотребление, как и использование моделей для рассуждений. Мы ничего не знаем о том, сколько энергии требуют эти более сложные запросы или как распределяется диапазон.

2. Мы не знаем, сколько запросов обрабатывает Gemini, так что неясен общий энергетический эффект продукта.

Один из моих главных вопросов по энергопотреблению Gemini — общее количество запросов, которые продукт видит ежедневно.

Эта цифра не включена в отчет Google, и компания не поделилась ею со мной. И я должен сказать: я настойчиво расспрашивал их об этом, как на пресс-конференции по новости, так и в интервью с Дином. На пресс-конференции они направили меня к недавнему отчету о прибылях, который содержит только данные о ежемесячных активных пользователях (450 миллионов, для справки).

«Мы не готовы раскрывать это по разным причинам», — сказал мне Дин по телефону. Общее число — абстрактная величина, которая меняется со временем, добавил он, и компания хочет, чтобы пользователи думали об энергопотреблении на промпт.

Но по всему миру люди взаимодействуют с этой технологией, не только я — и то, что мы все суммируем, кажется весьма релевантным.

OpenAI публично делится своим общим числом, недавно сообщив о 2,5 миллиарда запросов к ChatGPT ежедневно. Для любопытных мы можем использовать это как пример и взять самооценку компании по энергопотреблению на запрос (0,34 ватт-часа), чтобы получить приблизительное представление об общем для всех пользователей ChatGPT.

По моим расчетам, за год это составит более 300 гигаватт-часов — столько же, сколько нужно для питания почти 30 000 американских домов в год. Когда говоришь так, это начинает звучать как куча секунд на микроволновке.

3. ИИ везде, не только в чат-ботах, и мы часто даже не осознаем этого.

ИИ затрагивает нашу жизнь, даже когда мы его не ищем. ИИ-саммари появляются в веб-поиске, хочет ты этого или нет. Есть встроенные функции в приложениях для email и сообщений, которые могут составлять или суммировать тексты за тебя.

Оценка Google строго для приложений Gemini и не включает многие другие способы, которыми даже эта компания использует ИИ. Так что даже если вы пытаетесь посчитать свое личное энергопотребление, это становится все сложнее.

Чтобы быть ясным, я не думаю, что люди должны чувствовать вину за использование полезных инструментов. И в итоге, я считаю, что самый важный разговор — не о личной ответственности.

Сейчас есть тенденция фокусироваться на малых числах, но нам нужно помнить, к чему это все приводит. Более двух гигаватт природного газа придут онлайн в Луизиане, чтобы питать один дата-центр Meta в это десятилетие. Google Cloud тратит 25 миллиардов долларов на ИИ только в PJM-сети на восточном побережье США. К 2028 году ИИ может составить 326 тераватт-часов спроса на электричество в США ежегодно, генерируя более 100 миллионов метрических тонн углекислого газа.

Нам нужно больше отчетов от ключевых игроков ИИ, и недавнее объявление Google — одно из самых прозрачных на сегодня. Но одна маленькая цифра не отменяет того, как эта технология влияет на сообщества и меняет нашу энергосистему.

Эта статья — часть еженедельного обзора атомpil.net о технологиях и энергетике. Подпишитесь, чтобы получать обновления каждую неделю.