greenfree2002: (Default)
Еще один семинар на конференции в Бостоне был посвящен экологической стоимости всей этой цифровой роскоши в целом, и ИИ в частности. Впечатлило.

Энергия
До 2018 года потребление всеми дата-центрами США было более-менее стабильным. Количество центров, понятно, росло, но росла и энергоэффективность. С 2018 года пошел резкий рост, и к 2023-му потребление выросло вдвое, и на тот момент составляло 4.4 % от всего производства энергии в США. По усредненному прогнозу, к 2028-му году оно дойдет до примерно 10% (притом, что и само производство на тот момент тоже вырастет, т.е. в ГВт рост будет почти втрое).
Источник: 2024 United States Data Center Energy Usage Report

Конечно, это дата-центры в целом. Теперь конкретно про ИИ, и в тоннах СО2.
Тренировка модели GPT-3 потребовала около 552 тонн СО2. Для сравнения: одна тонна - это сжигание 500 л. бензина. Примерно как наш годовой пробег в США.
Источник: David Patterson at al., Carbon Emissions and Large Neural Network Training

Нет точного ответа на вопрос, что потребляет больше энергии и вызывает больший карбоновый след - тренировка модели или ее последующая работа, поскольку это зависит как от количества запросов, так и от частоты апдейтов модели. Если модель не обновлять, соотношение будет примерно 1:2, т.е. запросы к модели генерируют больше выбросов. С учетом обновления моделей, доли примерно сравнимые.
Генерация картинки требует примерно в 60 раз больше энергии, чем генерация текста по запросу.
Источник

И, наконец, вода. Предполагается, что весь мировой ИИ будет в 2027 году потреблять 4.2-6.6 млрд. куб.м. воды, что в 4 раза больше того, что потребляет такая страна как Дания.
Источник: Pengfei Li et al., Making AI Less "Thirsty": Uncovering and Addressing the Secret Water Footprint of AI Models

Я не думаю, что ИИ - зло. Зло, понятное дело - это люди ). Но знание о стоимости этого ИИ (не в абстрактных зелененьких бумажках, а в конкретных литрах воды) дает более полную картину, чем была у меня раньше.



greenfree2002: (Ежик)
Странные люди, которые спрашивают, пустят ли котов и собак в человеческий рай.
Меня больше интересует вопрос, пустят ли вот лично нас в рай котов и собак.
Заслужили ли мы.
greenfree2002: (глаз)
На занятии по литовскому, отрабатываем новую лексику.

(Преподаватель): А вы боитесь пауков?
(Я): Нет, вовсе нет. Когда-то у нас в квартире в течение двух недель жил паук. Но нам пришлось его выселить, потому что он свил паутину прямо над обеденным столом.
(П): Было неприятно обедать?
(Мы с Дарьей одновременно): Нет, почему неприятно, просто неудобно.
greenfree2002: (Ежик)
Это неочевидно, но мы воспринимаем мир не непосредственно. Наши рецепторы получают световые, осязательные и аудио-стимулы, складывающиеся затем в нашем мозгу в картину, которую мы, якобы, «видим собственными глазами». И судя по тому, что мы можем успешно коммуницировать друг с другом и манипулировать объектами внешнего мира, эта картина довольно адекватна. Но если у нас нет рецепторов для каких-то явлений внешнего мира, то мы и не можем ничего про них знать, даже если они толпами будут проходить мимо нас и даже сквозь нас.

Про привидения поговорим в другой раз, а пока - о том факторе, который многие из нас всё же умеют смутно чувствовать - о наличии смысла у того или иного набора действий. Часто, говоря о смысле, мы представляем его как чисто субъективное понятие - «каков смысл жизни? - какой ты себе создашь, такой и будет». Действительно, во многих ситуациях смысла «самого по себе» нет, но не всегда. Например, пристегиваться в авто имеет имманентный смысл вне зависимости от того, видит ли этот смысл сам пассажир.

Другой пример - более сложный (зато про белок). Хорошо знающие нас белки с нашего дерева запрыгивают на наш кондиционер и лазят по сетке окна. Когда они видят, что мы обратили на них внимание, они спрыгивают на землю, бегут за угол, где расположена входная дверь, и берут орешки у нас из рук. И вот другие белки, которые иногда приходят тусить с нашими, тоже забираются на кондиционер (что требует специальных беличьих усилий). Но смысла этого действия они не понимают, и когда видят, что мы их заметили, они спрыгивают и убегают. То есть, у самого запрыга на кондиционер смысл есть всегда - когда мы дома и не очень заняты, мы всегда в ответ предлагаем орешки. Но те, кто этот смысл «видят», получают вкусняшки, а те, кто нет - не получают.

Нужно постоянно тренироваться различать смысл. Да, когда научаешься, то чаще всего видишь бессмысленность человеческих действий, и это умножает печали. Но зато и орехи получаешь немножко чаще.
greenfree2002: (Default)
- Вот отличное же приложение Мерлин, позволяет распознавать птиц по их пению, самых разных. Но голоса белок совершенно игнорирует!
- Странно, ведь вообще не проблема было добавить крики белок в исходную базу перед обучением, а сколько было бы пользы…
- Вот-вот, нужно сделать свой Мерлин, с блекджеком и белками.
greenfree2002: (Default)
- А теперь мы сядем за этим столиком в парке, и будем ждать, пока белки сами к нам сбегутся. Хоть белые, хоть серые. Мы же не какие-то белкорасисты, чтобы предпочитать одних другим при раздаче орешков, верно?
- О, да, только мы притащились в этот город за двести километров именно ради белых белок, а так никаких предпочтений. )
- Ну, слушай, нас совершенно никак нельзя упрекнуть в расовой дискриминации против grey squirrels. Some of our best friends are grey squirrels!
greenfree2002: (Default)
- Послушайте, Малдер, вы никогда не слышали калифорнийскую сказку о трех поросятах?

- Слышал. Но мне всегда казалось, что она английская.

- Да нет, в Калифорнии она звучит совсем иначе. Слушайте же. Жили-были в одном лесу три брата-поросенка. И решили в видах грядущей зимы построить себе по отдельному коттеджу. Два брата были шалопаи и бездельники, не дураки выпить, забить косячок, попеть и поплясать с молодыми свинками. В общем, один из них построил себе дом из соломы, а другой - из веток и сучьев. Третий же брат был себе на уме, окончил колледж, работал в солидной фирме и имел уже достаточно жирный счет в банке. Он возвел каменный коттедж и радовался, представляя, как будут петь зимой его братцы, стуча зубами от холода. Зима, конечно, пришла, как ей и положено. Но раньше пришла осень, а осенью Калифорнию тряхнуло. Землетрясение. И от трех коттеджей не осталось ничего. Один брат-поросенок смахнул с себя солому и вылез на свет божий целым и невредимым. Другой выбирался из-под веток и сучьев чуть дольше, но тоже отделался лишь парой царапин. А коттедж третьего брата превратился в груду камней, а сам он - в большую свиную отбивную. Зима же в том году оказалась на редкость теплой, холодные зимы в Калифорнии редкость...

- И в чем же тут мораль?

- Не знаю. Наверное, в том, что из братьев кто-то всегда хитрее. Но иногда не тот, кто кажется самым хитрым...

(Крис Картер)

Profile

greenfree2002: (Default)
greenfree2002

May 2025

S M T W T F S
    1 23
45678910
11121314 151617
18192021222324
25262728293031

Syndicate

RSS Atom

Style Credit

Expand Cut Tags

No cut tags
Page generated May. 22nd, 2025 07:28 am
Powered by Dreamwidth Studios