Data Center Power Criss - скритите разходи на AI & Cloud

Въведение

Възходът на облачните компютри и изкуствения интелект (AI) предизвика драматична промяна в инфраструктурата, която е в основата на цифровата икономика. Това, което често остава скрито зад общите вълнения на АИ навсякъде и Клуд е огромното енергия както и енергийна инфраструктура бреме, което съвременните центрове за данни сега налагат. В тази статия ще разгледам възникващата криза на мощността в центровете за данни . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

Мащабът на проблема

1, 1 Потребление на електроенергия в световен мащаб

• Според Международната енергийна агенция (IEA) световното потребление на електроенергия от центровете за данни понастоящем е наоколо 415 терават-часа (TWh) почти 1,5% от световното потребление на електроенергия през 2024 г. IEA+2Министерството на енергетиката.gov+2

• Прогнозите показват, че това може почти двойно до 2030 г. (до ~945 TWh) в базовия сценарий на IEA. IEA+ 1

• В САЩ, например, центровете за данни изгоряха през ~183 TWh през 2024 г. Pew Research Center+ 1

1, 2 Бърз растеж на натоварването на AI

• Растежът не е само от центровете за данни, но и от ускорено натоварване GPU/PPU клъстери, обучение за голям езиков модел, интерференция в мащаб. За ускорени сървъри (AI-специфични) IEA проекти ръст от ~30 % годишно спрямо ~9 % за конвенционални сървъри. IEA

• Доклад от Goldman Sachs проекти център за данни глобално търсене на енергия нараства с до 165% до края на десетилетието (в сравнение с 2023 г.) управляван от AI & клауд инфраструктура. Goldman Sachs

• В САЩ Морган Стенли предупреждава за недостиг на мощност до 20% за центровете за данни през 2028 г., движени от това натрупване на AI. Yahoo Finance

1.3 Имущества за енергийни мрежи и инфраструктура

• С увеличаването на търсенето се увеличава напрежението върху преноса, генерирането, инерцията на мрежата и местните комунални услуги. Например много държави и комунални услуги вече виждат клъстери, които изискват подобрения в подстанциите и връзките в мрежата. Световен институт за ресурси+ 1

• В някои региони центровете за данни вече използват значителни акции от местното електроснабдяване, което има ефект върху местните домакинства, промишлеността и планирането на инфраструктурата. Pew Research Center

Защо това се случва: Шофьорите

2.1 Хипермащабни AI и облачно натоварване

• Преминаването към генеративен изкуствен интелект, голямо обучение по модел, извод в мащаб (в реално време, 24/7) налага много по-висока плътност на мощността от по-ранни поколения работа със сървъри. Например, хипермащабен сървърен багажник корпус много GPU може да нарисува десетки киловати, а не няколко. arXiv+ 1

• Поради икономиите от мащаба и необходимостта от изпълнение, тези съоръжения често избутват плика на охлаждане, доставка на енергия, неточност, време за ъптайм, всички от които увеличават разходите и сложността.

2.2 Локация базирани мащабиране и купиране

• Много центрове за данни се струпват в региони с благоприятни условия (напр. ниски разходи за електроенергия, по-хладен климат, данъчни стимули). Но такива купове създават локализиран стрес дори и глобалната картина да изглежда управляема. Pew Research Center

• Инфраструктурата за подкрепа на тези големи обекти голмайстори, високоволтови трансформатори, дълги линии за пренос на енергия по-често изостава зад темпото на изграждане.

2.3 Енергийни неефективности и охлаждане

• Освен компютирането на енергията, значителен дял от електричеството в центъра на данните влиза в загуби при охлаждане, вентилация, разпределение на електроенергията. Колкото по-мощно затегнете съоръжението, толкова по-големи са допълнителните разходи. Pew Research Center+ 1

• Някои охладителни системи могат да консумират до ~30% (или повече) от общата мощност в центъра на данните в по-малко ефективни съоръжения. Високоефективните хипермащабни такива намаляват това, но с увеличаването на плътността се покачват изискванията за охлаждане. Pew Research Center

2.4 Интеграция на възобновяемите енергийни източници и предизвикателства, свързани с устойчивостта

• Много оператори се стремят да използват възобновяема енергия (вятър/слънце) или дори ядрена, за да захранват своите центрове за данни. Въпреки това възобновяемите енергийни източници са периодично, и изискванията в реално време на AI compute често изискват стабилна, висококачествена мощност. С цел да се добави капацитет или електропреносни линии, да се даде възможност и да се намали трудното привеждане на възобновяемите енергийни източници в товар. Вътрешен бизнес

• Следователно, на практика много съоръжения все още разчитат на архивиране на изкопаеми горива или електропреносна енергия от традиционни източници, което увеличава емисиите и усложнява разказите за устойчивостта.

Скрити крушки отвъд сметката на сървъра

3.1 Икономически/мрежови разходи външни фактори

• Когато центровете за данни изискват големи части от капацитета на мрежата, разходите за ъпгрейди (поколение, предаване, подстанции) често се прехвърлят на други клиенти Домакинства и по-малки фирми. Например домакинствата в някои американски щати виждат по-високи сметки, тъй като комуналните услуги трябва да повишат цените, за да покрият промените в инфраструктурата. Pew Research Center+ 1

• В региони, в които капацитетът на мрежата е ограничен, времето на изчакване за междусистемните връзки с данни може да се удължи с години, за да се забави стартирането на бизнеса или да се наложи преместване. MLQ

3.2 Въздействие върху околната среда и въглеродния отпечатък

• Електричеството, което захранва данните, все още идва в голяма част от изкопаемите горива в много региони. Ако използването на двойни и възобновяеми енергийни източници не се увеличи съответно, емисиите нарастват. Някои разширения в центъра на данните рискуват да заключат инфраструктурата, зависима от изкопаемите горива в продължение на години. Финансови времена+ 1

• Охлаждане и енергийна инфраструктура за използване на вода (особено за охлаждане на изстисквачки), което означава, че центровете за данни в засегнатите от водата региони създават вторичен натиск върху околната среда. Уикипедия

3, 3 Опортюнити разходи и инфраструктура конкуренция

• Земята, електроенергията, водата и охладителните ресурси, използвани от гигантски центрове за данни, биха могли да служат иначе за производство, местните общности или по-малките предприятия. Това повдига въпроси относно Регионален собствен капитал, особено ако местните обезщетения (работа, данъчни приходи) са ограничени спрямо потреблението на ресурси.

• За предприятията, които разчитат на енергоемки работни потоци (например, база GPU-базирани сравнителни данни, висока виртуализация чрез виртуализация), нарастващата конкуренция за енергия и охлаждане може да доведе до:

  • По-висока цена на хостинг / облак компут

  • По-дълги срокове за изпълнение на капацитета

  • По-нисък достъп до инфраструктурата за мощност/ниско качество

3.4 Риск за надеждност и устойчивост

• Претоварни или почти капацитетни мрежи рискуват намаляване на забавянето, по-малка устойчивост на повреди или екстремни атмосферни условия, както и по-голям шанс за източване или намаляване на съкращенията. И двете за самите центрове за данни както и за околната инфраструктура (домашни, болници и др.). Инструментите вече предупреждават за тези стрес точки. Вътрешен бизнес+ 1

Какво означава за тежки работни товари: показатели, виртуализация и облачна архитектура

Като се има предвид фокуса ви върху GPU/CPU бенчмаркиране, виртуализация, опаковане и хибридно/облачно разполагане, измерението мощност и инфраструктура е все по-относимо. Ето как:

4.1 Базовите рамки трябва да включват разходите за инфраструктура

• Когато проектирате референтни апартаменти или виртуализационни стекове (напр., GPU off-load, multi-node clusters, виртуализация с VMware/VirtualBox, AI interference provinces), считате не само за сурови изчисления (GFLOPS, честотна лента), но също така разходи за електроенергия, охлаждане на въздуха и енергийна ефективност на работа.

• За клауд локации (например, на Microsoft Azure / AWS / GCP), разходите все повече се влияят от базовите ограничения на инфраструктурата (мощност и охлаждане) . . което може да повлияе на ценообразуването, наличността и производителността.

4.2 Виртуализация и хибридни изчисления

• Ако разгръщате хибридни или напрем + облачни модели (напр. Windows VMs, GPU/CPU off-load от локални кутии до облак), ще искате да оцените Пределни разходи както и енергиен отпечатък от тези центрове за данни. Някои работни места могат да бъдат по-ефективни на местно ниво (в зависимост от разходите за охлаждане/мощност), отколкото в облака, ако се намират в регион с ограничена мощност.

• Виртуализацията оркестрация трябва да се наблюдава квоти за мощност, особено в многомащабна среда. Графикът на работното натоварване може да се наложи да избира време/локации, когато скоростите на мощността/потреблението са благоприятни.

4.3 Изборите на географски и енергийни източници имат значение

• При избора на клауд или центрове за данни за разполагане, Смес от източници на енергия, капацитет на мрежата, риск от увеличаване на разходите за електроенергия, въпроси, свързани с охлаждането и околната среда. Някои региони могат да имат латентен риск от недостиг на мощност или по-високи бъдещи разходи поради проникване в центъра на данните.

• Например регион в центъра на данните с нисък марж на резервното производство може да бъде изправен пред повишаване на лихвите или ограничаване. Това може да повлияе на СЛА, разходите и изпълнението на вашите тежки работни места.

4. 4 Ъгъл на устойчивост и маркетинг

• Ако публикувате сравнителни резултати, статии, или модули (както често правите), след това добавяне на размера на енергията/ефективността (напр., .X GFLOPS per kWh в този регион) може да стане tanked интерес за вашата аудитория, особено когато налягането в околната среда расте.

• За вашата общност от ИТ специалисти и ентусиасти, подчертаващи разходи за енергия за всяка задача, охлаждаща ефективност, Сървър-мощност за всеки бенчмаркДобави диференциатор.

Стратегии за овладяване на кризата

Ето някои подходящи за действие стратегии както на ниво макро- (промишленост/полезност), така и на ниво микро- (предприятия/разпределяне).

5. 1 На равнище промишленост/полезност

• Програми за отговор на търсенето: Големите центрове за данни могат да участват в схеми за отговор на търсенето на електроенергийната мрежа (намаляване на натоварването по време на пиковете) за облекчаване на стреса в мрежата. Например, Google LLC подписа споразумения в САЩ, за да увеличи своята AI-данни-центърна употреба на електроенергия по време на върховото търсене на мрежата. Reuters

• Инвестиции в мрежи и пренос: За да се подпомогне изграждането, комуналните услуги трябва да добавят производствен капацитет, електропреносни линии и подстанции. Закъсненията тук увеличават риска от затруднения. Deloitte

• Зелено захранване + микрограми: Центровете за данни могат да генерират възобновяеми източници, да изграждат производство на място, съхранение на батерии или микрограми, за да намалят зависимостта от обтегнати мрежи.

• Прозрачност и докладване: Операторите трябва да докладват за действителното използване на електроенергията, охлаждащите показатели, PUE (ефективно използване на мощност) и т.н., за да позволят на регулаторите и общностите да оценяват въздействието. Много анализатори наричат липсата на разкриване. Финансови времена

5. 2 На равнище разполагане/предприятия

• Изберете регион & енергиен източник внимателно: Изберете региони в центъра на данните с добър капацитет на електроенергийната мрежа, благоприятни скорости на мощността, силен набор от възобновяеми източници и нисък риск от ограничения.

• Оптимизиране на графика на натовареността: За тежки работни места (бънчмарк работи, модел на обучение), график по време на извънпиковата час или когато разходите за мощност са по-ниски. Използване на регионални различия в разходите/времето.

• Power-aware бенчмаркиране и архитектурен дизайн: Измерва се не само времето за изчисляване, но и изразходваната енергия (kWh) за даден бенчмарк. Оптимизиране за енергия в резултат, не само за сурова скорост.

• Подобряване на охлаждането и ефективността: За внедряването на предмишници или ръбове, помислете за високоефективно охлаждане, охлаждане на течностите, разместване на рафтове, избор на сървъри за енергийна ефективност.

• Разгледайте хибридни/съвременни алтернативи: При сценарии, при които центровете за облачни данни могат да бъдат изправени пред ограничения или по-високи разходи, локалните или крайните изчисления могат да бъдат по-добри за търгуване.

Рискове и поглед

6, 1 Какво ще стане, ако растежът продължи да е неконтролируем?

• Ключови анализатори предупреждават за Липса на капацитет на електроенергийната мрежа, особено в енергоемки региони. Прогнозата на Morgan Stanley за 20% недостиг на данни в САЩ през 2028 г. е показател за отрезвяване. Yahoo Finance

• Ако мощността остава ограничена, потенциалните рискове включват:

  • По-високи оперативни разходи (покачване на цената на електроенергията)

• По-дълги срокове за въвеждане в центъра на данните

• По-чести ограничения или ограничения за компутно-интензивно натоварване

• По-бавно развитие на инфраструктурата на AI (противно на розовите очаквания за растеж)

• Вероятно по-голям отпечатък върху околната среда, ако изкопаемите горива се използват за запълване на празнини

6.2 Положителни перспективи / лостове за промяна

• Повишаване на ефективността: Дори когато се увеличава търсенето, подобренията в архитектурата на чиповете, охлаждането и графика на натовареността могат да доведат до умерен ръст на мощността.

• Изграждане на възобновяема и ядрена енергия: Някои големи технологични компании вече подписват споразумения за закупуване на електроенергия с ядрени или мащабни възобновяеми източници, за да се справят. Например някои центрове за данни се свързват със съживени атомни електроцентрали, за да отговорят на търсенето. Le Monde

• Интеграция на интелигентни мрежи: Центровете за данни могат да станат гъвкави товари, като се изместват времето, когато мощността е евтина или възобновяемите източници са в изобилие (поискан отговор).

• Метри и прозрачност: Тъй като заинтересованите страни (правителството, инвеститорите, общностите) задават повече въпроси, центровете за данни вероятно ще публикуват повече показатели за енергия/охлаждане, позволяващи по-интелигентно планиране и сравнение.

Препоръчителни действия за Вас и Вашата публика

Като се има предвид вашият интерес и работа в сравнение, виртуализация, опаковане, съдържание на ИТ общността, тук са специфични действия, които можете да разгледате:

1. Включване на енергиен показател в докладите за сравнение

   • Когато стартирате GPU/CPU еталони, заснемате не само runtime , но и готварски (...) и изчислявате по GFLOPS или подобна мярка за ефективност.

   • Сравни различните облаци/региони не само за разходите, но и за енергийната ефективност.

2. Напишете съдържание за вашия сайт/форум

   • Кражба на статия или серия, озаглавена това са енергийните разходи на облака: какво всеки ИТ специалист трябва да знае . . .

3. Оферта ръководство за избор на облачен регион чрез мощност & производителност, което допълва другото ви изпълнение / виртуализация фокусирано съдържание.

4. Виртуализация и хибридни видове употреба

   • Разгледайте как GPU/CPU off-load up-load (твоят GPU компутира off-loading с GTX 770 + Quadro K420 и т.н.) сравнява енергийно-мъдър спрямо използването на хипер-мащабен клауд клъстер в ограничен регион.

   • Публикувайте казуси-студии или инструменти (напр. Power Profiler, Plug-in за измерване на GPU клъстер енергия) за вашата общност.

5. Условия за опаковане и разполагане

   • Когато проектирате модули/приставки/приложения (напр. вашите Joomla модули, GPU/AI приложения за сравнение), помислете за добавяне на опции за еко-модел: например, график работни места по време на извънпиковите часове, газ за по-ниско енергийно изтегляне, лог метри за консумация на енергия.

6. За виртуализация (VMware/VirtualBox и т.н.), документирайте най-добрите практики за намаляване на мощността, напр., избягвайте пренареждането, консолидирайте работата на празен ход, дайте възможност за охлаждане/по-голяма мощност.

7. Наслаждавайте се на прозрачността на клаудовете

   • Следете кои доставчици на облак/център на данни публикуват метрични данни (PUE, енергиен микс, използване на вода) и ги подчертайте в съдържанието си.

   • Насърчаваме членовете на общността да се запитат: горно ли е енергийният източник на този регион? Какъв е резервният капацитет на мрежата? Съществуват ли квоти за електроенергия/рискове за изключване? - Да.

Заключение

Скритата цена на облака и AI не може да се сравни с долара, платени в абонаментни такси. масивна, бързо ускоряваща се енергийна и инфраструктурна тежест който се крие зад всички тези цикли. Центровете за данни вече не са пасивни задни стаи на интернет; те са Индустриални потребители на електроенергия чийто растеж носи значителни последици за комуналните услуги, мрежите, домакинствата, индустриите, околната среда и за ИТ специалистите, ориентирани към ефективността, като вас.

Кризата (или може би предизвикателство) е реална: нарастващото търсене, ограниченото предлагане, застаряващите мрежи, охлаждането и екологичното натоварване всички посочват необходимостта от по-отговорно планиране, Разположение регион-осъзнат, енергийно ефективна архитектура, и прозрачни показатели. За всеки, който строи тежки ненатоварвания . . . . . . .