Kriza z električno energijo v podatkovnem centru – skriti stroški AI in oblaka

Uvod

Vzpon računalništva v oblaku in umetne inteligence (AI) je sprožil dramatičen premik v infrastrukturi, ki podpira digitalno gospodarstvo. Kar pogosto ostane skrito za skupno vznemirjenje “AI povsod” in “cloud ubiquity” je ogromen energija ter Elektrarna obremenitev, ki jo zdaj nalaga sodobna podatkovna središča. V tem članku preučujem nastajajočo krizo moči v podatkovnih centrih – kaj je to, zakaj se dogaja, kakšni so njeni stroški (gospodarski, okoljski, socialni) in kaj pomeni za organizacije (vključno s tistimi, ki opravljajo težke delovne obremenitve, kot so GPU/CPE primerjalne analize, virtualizacija in visoko zmogljiva računalniška infrastruktura).

Obseg problema

1.1 Poraba električne energije na svetovni ravni

• Po podatkih Mednarodne agencije za energijo je svetovna poraba električne energije iz podatkovnih centrov trenutno približno 415 teravatnih ur (TWh) – približno 1,5 % svetovne porabe električne energije v letu 2024. IEA+2Oddelek za energijo.gov+2

• Projekcije kažejo, da bi to lahko skoraj dvojno do leta 2030 (do ~945 TWh) v osnovnem scenariju IEA – ki bi takrat predstavljal malo manj kot 3 % svetovne porabe električne energije. IEA+ 1

• V ZDA so na primer podatkovni centri leta 2024 pogoreli skozi ~183 TWh ( Raziskovalno središče Pew+ 1

1.2 Hitra rast delovne obremenitve AI

• Rast ni le iz „več podatkovnih centrov“, ampak tudi iz pospešene delovne obremenitve — grozdi GPU/TPU, usposabljanje velikih jezikovnih modelov, sklepanje na ravni. Za pospešene strežnike (za AI) IEA načrtuje rast ~30 % na leto v primerjavi z ~9 % za konvencionalne strežnike. IEA

• Poročilo podjetja Goldman Sachs o projektih podatkovnega centra za svetovno povpraševanje po energiji se povečuje do 165 % do konca desetletja (v primerjavi z 2023), ki ga močno poganja infrastruktura AI & oblak. Goldman Sachs

• V ZDA Morgan Stanley opozarja na izpad električne energije do 20 % za podatkovne centre do leta 2028, ki jih poganja ta izgradnja AI. Yahoo Finance

1.3 Posledice za električna omrežja in infrastrukturo

• Ko se povpraševanje povečuje, se povečuje obremenitev prenosa, proizvodnje, vztrajnosti omrežja in lokalnih javnih služb. Številne države in javne službe na primer že vidijo skupine, ki so povezane s podatkovnimi centri in zahtevajo nadgradnjo postaj in povezav med omrežjem. Svetovni inštitut za vire+ 1

• V nekaterih regijah podatkovni centri že porabijo znatne deleže lokalne oskrbe z električno energijo, kar vpliva na lokalna gospodinjstva, industrijo in načrtovanje infrastrukture. Raziskovalno središče Pew

Zakaj se to dogaja: Vozniki

2.1 Delovne obremenitve za visokohitrostna vozila in oblake

• Prehod na generativni AI, veliko usposabljanje modelov, sklepanje na lestvici (v realnem času, 24/7) nalaga veliko višje gostota moči kot prejšnje generacije strežniških delovnih obremenitev. Na primer, hiperscale strežniški stojalo ohišje veliko GPU lahko potegne deset kilovatov namesto nekaj. arXiv+ 1

• Zaradi ekonomije obsega in potrebe po učinkovitosti ti objekti pogosto potiskajo kuverto hlajenja, dobave električne energije, odpuščanja delovne sile, razpoložljivosti časa – vse to povečuje stroške in zapletenost.

2.2 Skaliranje in združevanje na podlagi lokacije

• Številni podatkovni centri se združujejo v regijah z ugodnimi pogoji (npr. nizki stroški električne energije, hladnejše podnebje, davčne spodbude). Toda takšno povezovanje ustvarja lokaliziran stres na mreži – tudi če je globalna slika videti obvladljiva. Raziskovalno središče Pew

• Infrastruktura za podporo tem velikim lokacijam – elektrarnam, visokozmogljivim transformatorjem, dolgim prenosnim vodom – pogosto zaostaja za tempom gradnje.

2.3 Neučinkovitost energije in režijski stroški hlajenja

• Poleg izračuna moči gre znaten delež električne energije iz podatkovnega središča v hlajenje, prezračevanje, izgube pri distribuciji električne energije. . Več energije kot je v objektu, večji so dodatni režijski stroški. Raziskovalno središče Pew+ 1

• Nekateri hladilni sistemi lahko porabijo do ~30 % (ali več) skupne moči podatkovnega središča v manj učinkovitih objektih. Višja učinkovitost hiperskopa to zmanjšuje, vendar se z naraščanjem gostote zahteve po hlajenju povečujejo. Raziskovalno središče Pew

2.4 Izzivi v zvezi z vključevanjem iz obnovljivih virov in medinstitucionalnostjo

• Mnogi operaterji si prizadevajo za uporabo obnovljive energije (vetrov/soncev) ali celo jedrske energije za napajanje svojih podatkovnih centrov. Vendar pa so obnovljivi viri energije intermitentni, in v realnem času zahteve izračuna AI pogosto zahtevajo stabilno, visoko kakovostno moč. Poročajo o dolgih časovnih presledkih za dodajanje zmogljivosti ali prenosnih vodov, zapletenih dovoljenjih in težavah pri usklajevanju obnovljivih virov z obremenitvijo. Poslovni Insider

• Zato se v praksi številni obrati še vedno opirajo na rezervo za fosilna goriva ali na električno energijo iz omrežja iz tradicionalnih virov, kar povečuje emisije in otežuje trajnost.

Skriti stroški – za račun strežnika

3.1 Zunanji učinki na ekonomske/omrežne stroške

• Kadar podatkovni centri zahtevajo velike dele zmogljivosti omrežja, se stroški za nadgradnjo komunalnih naprav (proizvodnja, prenos, razdelilne postaje) pogosto prenesejo na druge stranke — gospodinjstva in manjša podjetja. Na primer, gospodinjstva v nekaterih ameriških državah vidijo višje račune, ker morajo javne službe zvišati cene za kritje infrastrukturnih sprememb. Raziskovalno središče Pew+ 1

• V regijah, kjer je zmogljivost omrežja omejena, lahko čakalne dobe za povezave med podatkovnimi centri trajajo več let – zavlačevanje zagonov podjetij ali preseljevanje. MLQ

3.2 Vplivi okoljskega in ogljičnega odtisa

• Podatkovni centri za električno energijo še vedno v veliki meri izhajajo iz fosilnih goriv v mnogih regijah. Če se uporaba podvoji in obnovljivi viri energije ne povečajo, se emisije povečajo. Nekatere razširitve podatkovnega središča lahko več let blokirajo infrastrukturo, ki je odvisna od fosilnih goriv. Finančni časi+ 1

• Hladilna in električna infrastruktura uporabljata vodo (zlasti izhlapevalno hlajenje) – kar pomeni, da so podatkovni centri na območjih, kjer je voda obremenjena sekundarni pritiski na okolje. . Wikipedija

3.3 Konkurenca stroškov priložnosti in infrastrukture

• Zemljišča, energija, voda in hladilni viri, ki jih uporabljajo orjaški podatkovni centri, bi sicer lahko služili proizvodnji, lokalnim skupnostim ali manjšim podjetjem. To odpira vprašanja o Regionalni lastniški kapital, zlasti če so lokalne koristi (delovna mesta, davčni prihodki) omejene glede na porabo virov.

• Za podjetja, ki so odvisna od energetsko intenzivnih delovnih tokov (npr. primerjalna analiza na podlagi GPU, virtualizacija z visokim pretokom), lahko vse večja konkurenca za energijo in hlajenje povzroči:

  • Višji stroški gostovanja / računalo v oblaku

  • Daljši čas vodenja za zmogljivost

  • Možen nižji dostop do „premijske“ infrastrukture/infrastrukture za nizko letenje

3.4 Tveganje za zanesljivost in odpornost

• Obremenitev ali skorajšnja zmogljivost omrežij lahko zmanjša ohlapnost, zmanjša odpornost na okvare ali ekstremno vreme ter poveča možnost izpadov ali zmanjšanega odpuščanja. Oba za same podatkovne centre ter za okoliško infrastrukturo (dome, bolnišnice itd.). Opomni že opozarjajo na te stresne točke. Poslovni Insider+ 1

Kaj pomeni za težke delovne obremenitve: primerjalna analiza, virtualizacija in arhitektura v oblaku

Glede na to, da se osredotočate na primerjalno analizo GPU/CPU, virtualizacijo, embalažo in hibridne/oblačne uporabe, je vse bolj pomembna razsežnost moči in infrastrukture. Takole:

4.1 Okviri referenčnih vrednosti morajo vključevati stroške infrastrukture

• Ko oblikujete primerjalne suite ali virtualizacijske sklade (npr. GPU off-load, več vozlišč, virtualizacija z VMware/VirtualBox, AI inference cevovodi), ne upoštevajte samo surovih izračunov (GFLOPS, pasovna širina), ampak tudi stroški električne energije, stroški hlajenja in energetska učinkovitost na delovno mesto. .

• Za uporabo v oblaku (npr. na Microsoft Azure / AWS / GCP) na stroške vse bolj vplivajo osnovne infrastrukturne omejitve (moč in hlajenje), ki lahko vplivajo na določanje cen, razpoložljivost in učinkovitost.

4.2 Virtualizacija in hibridne posledice računanja

• Če uporabljate hibridne ali on-prem + modele v oblaku (npr. Windows VMs, GPU/CPU off-load iz lokalnih polj v oblak), boste želeli oceniti mejni stroški ter energijski odtis hmelja iz podatkovnega središča. Nekatere delovne obremenitve so lahko na lokalni ravni učinkovitejše (odvisno od stroškov hlajenja/moči) kot na oblaku, če so gostujoče v regiji z omejeno močjo.

• Virtualizacija mora spremljati kvote električne energije, še posebej v okoljih z več tenantami/hiperravni. Razporeditev delovne obremenitve bo morda morala izbrati čas/lokacije, kadar so stopnje/razpoložljivost energije ugodne.

4.3 Geografske in energetske odločitve so pomembne

• pri izbiri regij v oblaku ali podatkovnem središču za uporabo, mešanica virov energije, zmogljivost omrežja, tveganje za stopnjevanje stroškov energije, zadeve v zvezi s hlajenjem in okoljem. Nekatere regije imajo lahko latentno tveganje pomanjkanja električne energije ali višje prihodnje stroške zaradi prodora podatkovnega središča.

• Regija s podatkovnim središčem z nizko rezervno stopnjo proizvodnje se lahko na primer sooča s povečanjem ali omejevanjem stopnje. To lahko vpliva na SLA, stroške in opravljanje vaših težkih delovnih obremenitev.

4.4 Trajnost in tržni vidik

• Če objavljate primerjalne rezultate, članke ali module (kot pogosto delate), potem lahko dodate razsežnost energije/učinkovitosti (npr. “X GFLOPS na kWh v tej regiji”) postane zanimanje za vaše občinstvo – še posebej z naraščanjem okoljskega pritiska.

• Za vašo skupnost IT strokovnjakov in performance navdušencev, poudarjanje stroški energije na nalogo, učinkovitost hlajenja, drsenje moči strežnika na referenčno vrednost, doda diferenciator.

Strategije za poniževanje krize

Tukaj je nekaj akcijskih strategij tako na ravni makro (industrije/utilnosti) kot na ravni mikro (podjetje/uvedba).

5.1 Na ravni industrije/uporabnosti

• Programi za odzivanje na povpraševanje: Veliki podatkovni centri lahko sodelujejo v shemah odzivanja na povpraševanje po omrežjih (zmanjšanje obremenitve med vrhovi) za zmanjšanje obremenitve omrežja. Google LLC je na primer v ZDA podpisal sporazume o zmanjšanju porabe električne energije v središču podatkov o AI med povpraševanjem po konicah omrežja. Reuterji

• Naložbe v omrežje in prenos: V podporo izgradnji morajo javne službe dodati proizvodne zmogljivosti, prenosne vode in razdelilne postaje, ki so pogosto dolgotrajen proces. Zamude povečujejo tveganje ozkih grl. Deloitte

• Nabava zelene energije + mikrogride: Data-centri lahko pridobivajo obnovljive vire energije, gradijo proizvodnjo na kraju samem, shranjevanje baterij ali mikrogride za zmanjšanje zanašanja na napete mreže.

• Preglednost in poročanje: Upravljavci morajo poročati o dejanski porabi energije, metriki hlajenja, PUE (učinkovitost porabe energije) itd., da lahko regulatorji in skupnosti ocenijo vpliv. Mnogi analitiki opozarjajo na pomanjkanje razkritja. Finančni časi

5.2 Na ravni uvajanja/podjetja

• Previdno izberite regijo in vir energije: Izberite regije s podatkovnim središčem z dobro zmogljivostjo omrežja, ugodnimi stopnjami električne energije, močno mešanico obnovljivih virov energije in majhnim tveganjem omejitev.

• Optimizirajte razporejanje delovne obremenitve: Pri težkih delovnih obremenitvah (benchmark runs, model usposabljanja), urnik v urah izven konic ali ko so stroški električne energije nižji. Uporabi regionalne razlike v stroških/času.

• Primerjalna analiza moči in oblikovanje arhitekture: Merite ne samo čas izračuna, ampak porabljeno energijo (kWh) na referenčno vrednost. Optimizirajte za energijo na rezultat, ne samo za surovo hitrost.

• Hlajenje in izboljšanje učinkovitosti: Za uporabo na prostem ali na obrobju je treba razmisliti o hlajenju z visokim izkoristkom, hlajenju s tekočinami, poravnavi z rack-gostoto, izbiri strežnikov za energetsko učinkovitost.

• Raziskujte hibridne/osnovne alternative: V scenarijih, v katerih se lahko centri za podatke v oblaku soočajo z omejitvami ali višjimi stroški, je lahko izračun lokalnih ali obrobnih stroškov boljši kompromis.

Tveganja in napovedi

6.1 Kaj, če se rast nadaljuje nenadzorovano?

• Ključni analitiki opozarjajo na Pomanjkanje zmogljivosti omrežja, zlasti v močno intenzivnih regijah. Po ocenah Morgana Stanleyja je 20-odstotno pomanjkanje moči v ameriškem podatkovnem središču do leta 2028 streznitveni pokazatelj. Yahoo Finance

• Če je moč še vedno omejena, morebitna tveganja vključujejo:

  • Višji operativni stroški (povečanje cen električne energije)

• Daljši čas uvajanja podatkovnega središča

• Pogostejše omejitve ali omejitve izračunano intenzivne delovne obremenitve

• Počasnejša uvedba infrastrukture AI (v nasprotju s pričakovanji rosne rasti)

• Verjetno večji okoljski odtis, če se fosilna goriva uporabljajo za zapolnitev vrzeli

6.2 Pozitivni obeti / vzvodi za spremembe

• Povečanje učinkovitosti: Čeprav se povpraševanje povečuje, lahko izboljšave v arhitekturi čipov, hlajenju in razporejanju delovne obremenitve zmanjšajo rast energije.

• Izgradnja energije iz obnovljivih virov in jedrske energije: nekatera velika tehnološka podjetja že podpišejo sporazume o nakupu električne energije z jedrskimi ali obsežnimi obnovljivimi viri energije, ki jih morajo dopolnjevati. Nekatere podatkovne centre na primer povezujejo z oživljenimi jedrskimi elektrarnami, da bi zadostili povpraševanju. Le Monde

• Pametnejša integracija omrežja: Podatkovni centri lahko postanejo fleksibilne obremenitve, prestavljajo izračun na čase, ko je energija poceni ali pa so obnovljivi viri energije obilni (odziv na povpraševanje).

• Meritve in preglednost: Ker zainteresirane strani (vlade, vlagatelji, skupnosti) postavljajo več vprašanj, bodo podatkovni centri verjetno objavili več energetskih/hlajevalnih meril – kar bo omogočilo pametnejše načrtovanje in primerjalne analize.

Priporočena dejanja za vas in vaše občinstvo

Glede na vaše zanimanje in delo pri primerjalnih analizah, virtualizaciji, embalaži, vsebini IT skupnosti, tukaj so posebni ukrepi, ki jih lahko upoštevate:

1. Vključite energijsko merilo v svoja poročila o primerjalnih analizah

   • Ko uporabljate GPU/CPE referenčne vrednosti, zajemajte ne samo “čas delovanja”, ampak “porabljeno energijo (kWh)” in izračunajte “GFLOPS na kWh” ali podobno merilo učinkovitosti.

   • Primerjajte različne oblake/regije ne le glede stroškov, ampak tudi glede energetske učinkovitosti.

2. Zapišite vsebino za vašo spletno stran/forum

   • Obdelajte članek ali serijo z naslovom „Energetski stroški računalništva v oblaku: kaj bi moral vedeti vsak IT pro“ – omejitve moči profilov, stres v regionalnem omrežju, pomisleki glede hlajenja, tveganje stroškov.

3. Ponudite vodnik za “Izbor oblačne regije po moči in uspešnosti”, ki dopolnjuje vaše druge vsebine, usmerjene v uspešnost/virtualizacijo.

4. Primeri virtualizacije in hibridne uporabe

   • Raziščite, kako na-prem GPU/CPU off-load (vaš GPU račun izklopa z GTX 770 + Quadro K420, itd) primerja energijo v primerjavi z uporabo hiper-scale oblak grozda v omejenem območju.

   • Objavite primere-študije ali orodja (npr. Power Profiler, Plug-in za merjenje energije GPU) za vašo skupnost.

5. Pakiranje in uporaba

   • Pri oblikovanju modulov/pluginov/appov (npr. vaših modulov Joomla, aplikacij za primerjalno analizo GPU/AI) razmislite o dodajanju možnosti „eko-mode“: npr. opravila v urniku v urah izven konice, plin za manjše črpanje moči, logske meritve porabe energije.

6. Za virtualizacijo (VMware/VirtualBox itd.) dokumentirajte najboljše prakse za zmanjšanje porabe energije, npr. se izogibajte prezagotavljanju, konsolidirajte nedejavne delovne obremenitve, omogočite hlajenje/moč gostitelja.

7. Sodelovanje s preglednostjo ponudnikov storitev v oblaku

   • Spremljajte, kateri ponudniki storitev v oblaku/podatkovnem središču objavljajo metrike (PUE, mešanica energetskih virov, uporaba vode) in jih izpostavljajte v vaši vsebini.

   • Spodbujajte člane skupnosti, naj se vprašajo: » Kakšen je vir energije v tej regiji? Kakšna je zmogljivost prostega omrežja? Ali obstajajo kvote za električno energijo/tveganja za odstranitev? «

Sklep

Skriti stroški oblaka in AI niso le dolarji, plačani v naročnini – to je velika in hitro pospešujoča obremenitev z energijo in infrastrukturo ki leži za vsemi temi ‚komponentnimi cikli‘. Podatkovni centri niso več pasivne zaledne sobe interneta; so odjemalci električne energije industrijskega obsega katerih rast ima daljnosežne posledice za komunalne storitve, omrežja, gospodinjstva, industrijo, okolje in za IT strokovnjake, kot ste vi.

Kriza (ali morda izziv) je resnična: vse večje povpraševanje, omejena ponudba, starajoča se omrežja, ohlajanje in okoljska bremena kažejo na potrebo po bolj odgovorno načrtovanje, uporaba v regiji, energetsko učinkovita arhitekturain pregledna metrika. . Za vse, ki gradijo težko delovno obremenitev – primerjalno analizo GPU/CPU, virtualizacijo, module embalaže, uporabo v oblaku – te razsežnosti ni več mogoče zanemariti.