Data Center Power Crisis

Sissejuhatus

Pilvandmetöötluse ja tehisintellekti kasv on toonud kaasa dramaatilise muutuse digitaalmajanduse aluseks olevas infrastruktuuris. See, mis tihtipeale jääb varjule, on tohutu. energia ning Energiataristu koormat, mida kaasaegsed andmekeskused nüüd peale panevad. Käesolevas artiklis uurin andmekeskustes tekkivat elektrikriisi ~ mis see on, miks see toimub, millised on selle kulud (majanduslik, keskkonnaalane, sotsiaalne) ja mida see tähendab organisatsioonidele (sealhulgas neile, kes töötavad suure töökoormusega nagu GPU/CPU võrdlusuuringud, virtualiseerimine ja kõrgjõudlusega pilvede infrastruktuur).

Probleemi ulatus

1.1 Elektrienergia tarbimine kogu maailmas

• Rahvusvahelise Energiaagentuuri (IEA) andmetel on andmekeskuste ülemaailmne elektritarbimine praegu umbes 415 teravatt-tunni (TWh) 2024. aastal umbes 1,5% ülemaailmsest elektritarbimisest. IEA+2Energiaministeerium.gov+2

• Prognoosid näitavad, et see võib peaaegu topelt aastaks 2030 (kuni ~945 TWh) IEA's baasstsenaariumis, mis moodustaks veidi alla 3% ülemaailmsest elektritarbimisest sel ajal. IEA+1

• USAs põletasid näiteks andmekeskused 2024. aastal läbi ~183 TWh (4% USA elektritarbimisest) ning 2030. aastaks prognoositakse seda rohkem kui kaks korda (~426 TWh). Pew uurimiskeskus+1

1.2 Intellektuaalomandi kiire kasv

• Kasv ei ole mitte ainult ~more andmekeskustest, vaid kiirendatud töökoormus GPU/TPU klastrid, suur keelemudeli koolitus, järeldus skaalal. Kiirendatud serverite (AI-spetsiifilised) IEA projektide kasv on ~30 % aastas võrreldes ~9 protsendiga tavaserverite puhul. IEA

• Goldman Sachsi aruande kohaselt suureneb kogu maailma energianõudlus 165% kümnendi lõpuks (võrreldes 2023. aastaga) AI ja pilvede infrastruktuuri tõttu. Goldman Sachs

• USA-s hoiatab Morgan Stanley võimsuse puudujääk kuni 20% andmekeskuste puhul kuni 2028. aastani, mida juhib kõnealune tehisintellektisüsteem. Yahoo rahandus

1.3 Mõju elektrivõrkudele ja infrastruktuurile

• Nõudluse tõustes suureneb pinge ülekandele, tootmisele, võrgu inertsile ja kohalikele kommunaalteenustele. Paljud riigid ja kommunaalettevõtted juba näevad andmekeskuste klastreid, mis nõuavad alajaamade ja võrguühenduste ajakohastamist. World Resources Institute+1

• Teatavates piirkondades tarbivad andmekeskused juba praegu märkimisväärset osa kohalikust elektrivarustusest, millel on otsene mõju kohalikele majapidamistele, tööstusele ja infrastruktuuri planeerimisele. Pew uurimiskeskus

Miks see juhtub: juhid

2.1 Ulatuslik tehisintellekt ja pilvede töökoormus

• Üleminek generatiivsele tehisintellektile, suur mudelkoolitus, järeldus skaalal (reaal-time, 24/7) tekitab palju suuremat Võimsustihedus kui varem põlvkonna serveri töökoormust. Näiteks hüperscale serveri rack korpus paljud GPU võib joonistada kümneid kilovatte asemel mõned. arXiv+1

• Mastaabisäästu ja jõudluse vajaduse tõttu avaldavad need rajatised sageli survet jahutuse, energia tarnimise, koondamise, ülekoormuse, mis kõik suurendavad kulusid ja keerukust.

2.2 Asukohapõhine skaleerimine ja klastrite loomine

• Paljud andmekeskused koonduvad soodsate tingimustega piirkondades (nt madal energiakulu, jahedam kliima, maksusoodustused). Aga selline klastrite loomine kohalik stress võrgus, isegi kui globaalne pilt võib tunduda juhitav. Pew uurimiskeskus

• Infrastruktuur, mis toetab neid suuri alajaamu, suure võimsusega trafosid, pikki ülekandeliine, jääb sageli maha väljaehitamise tempost.

2.3 Energia ebatõhusus ja jahutuse üldkulud

• Välja arvatud arvutuslik elektrikulu, läheb märkimisväärne osa andmekeskuse elektrist jahutus-, ventilatsiooni- ja jaotuskaod** Mida võimsam rajatis, seda suurem on abipealne. Pew uurimiskeskus+1

• Mõned jahutussüsteemid võivad vähem tõhusates rajatistes tarbida kuni 30% (või rohkem) kogu andmekeskuse võimsusest. Suurema tõhususega hüperskaalad vähendavad seda, kuid kui tihedus suureneb, suureneb jahutusvajadus. Pew uurimiskeskus

2.4 Taastuvenergiaga integreerimine ja ebaühtlus

• Paljud ettevõtjad püüavad kasutada oma andmekeskustes taastuvenergiat (tuul/päikeseenergia) või isegi tuumaenergiat. Taastuvenergia katkendlik, ja reaalajas nõudmisi tehisintellekti arvutada sageli nõuavad stabiilset, kvaliteetset võimu. Tarvikud teatavad pikkadest tundidest, et lisada võimsust või ülekandeliine, keeruline lubamine ja raskused taastuvate energiaallikate vastavusse viimisel koormusega. Äriinsider

• Sellest tulenevalt toetuvad paljud rajatised ikka veel fossiilkütuse varu- või võrguenergiale traditsioonilistest allikatest, mis suurendab heitkoguseid ja raskendab jätkusuutlikkust.

Varjatud kulud, mis jäävad serveriarvest kaugemale

3.1 Majanduslikud / võrgukulude välismõjud

• Kui andmekeskused nõuavad suurt osa võrgu läbilaskevõimest, kantakse kommunaalteenuste uuendamise kulud (tootmine, edastamine, alajaamad) sageli üle muud kliendid Leibkonnad ja väiksemad ettevõtted. Näiteks mõnes USA osariigis näevad majapidamised kõrgemaid arveid, sest kommunaalettevõtted peavad tõstma hindu infrastruktuuri muutuste katmiseks. Pew uurimiskeskus+1

• Piirkondades, kus võrguvõimsus on tihe, võivad andmekeskustevaheliste ühenduste ooteajad kesta aastaid, mis lükkavad edasi ettevõtete käivitamist või sunnivad ümberpaiknemist. MLQ

3.2 Mõju keskkonnale ja CO2-jalajäljele

• Paljude piirkondade fossiilsetest kütustest pärineb endiselt suur osa elektritoitega andmekeskustest. Kui kasutamine kahekordistub ja taastuvad energiaallikad vastavalt skaalal, heide suureneb. Mõned andmekeskuse laiendused ohustavad aastaid fossiilkütustest sõltuva infrastruktuuri lukustamist. Financial Times+1

• Jahutus- ja elektriinfrastruktuur kasutavad vett (eriti kütuseaurude jahutamist), mis tähendab, et veestressi all olevates piirkondades luuakse andmekeskused. teisese keskkonnasurve. Wikipedia

3.3 Võimaluskulud ja infrastruktuuri konkurents

• Hiiglaslike andmekeskuste maa-, energia-, vee- ja jahutusressursid võiksid muidu teenida tootmist, kohalikke kogukondi või väiksemaid ettevõtteid. See tõstatab küsimusi piirkondlik omakapital, eriti kui kohalikud hüved (töökohad, maksutulu) on piiratud ressursside tarbimisega.

• Ettevõtjate puhul, kes toetuvad energiamahukatele töövoogudele (nt GPU-põhine võrdlusuuring, suure jõudlusega virtualiseerimine), võib kasvav konkurents elektri ja jahutuse alal põhjustada:

  • Suuremad kulud hosting / pilve arvutamine

  • Tootmisvõimsuse saavutamise pikemad ajad

  • Võimalik, et madalam juurdepääs ~premium'i elektri-/madala jõudlusega infrastruktuurile

3.4 Usaldusväärsuse ja püsivuse risk

• Ülekoormus- või peaaegu võimsusvõrgud võivad vähendada loidust, vähendada vastupanuvõimet riketele või äärmuslikele ilmastikuoludele ning suurendada võimalusi pruunide või vähenenud koondamiseks. Mõlemad andmekeskused ise ning ümbritseva infrastruktuuri jaoks (kodud, haiglad jne). Tarkused juba hoiatavad nende stressipunktide eest. Äriinsider+1

Mida see tähendab raske töökoormuse: võrdlus, virtualiseerimine ja pilvede arhitektuur

Arvestades teie keskendumist GPU/CPU võrdlusuuringutele, virtualiseerumisele, pakendamisele ja hübriid-/pilvede kasutuselevõtule, on võimsuse ja infrastruktuuri mõõde üha olulisem. Siin, kuidas:

4.1 Võrdlusraamistik peab hõlmama infrastruktuurikulusid

• Planeerimisel võrdlussviidid või virtualiseerimine korstnad (nt, GPU off-load, multi-node klastrid, virtualiseerimine VMware / VirtualBox, AI järeldada torujuhtmed), mitte ainult töötlemata arvuteid (GFLOPS, ribalaius), vaid ka energiakulud, üldjahutus ja energiatõhusus töökoha kohta;.

• Pilvandmetöötluse puhul (nt Microsoft Azure / AWS / GCP) mõjutavad kulusid üha enam infrastruktuuriga seotud piirangud (võimsus ja jahutus), mis võivad mõjutada hinnakujundust, kättesaadavust ja tulemuslikkust.

4.2 Virtualiseerimine ja hübriidne mõju arvutamine

• Kui kasutate hübriid- või prem+pilvemudeleid (nt Windows VMs, GPU/CPU off-load kohalikest kastidest pilveni), siis soovite hinnata piirkulu ning Energiajalajälg sellest andmekeskuse humalast. Mõned töökoormused võivad olla kohalikult tõhusamad (sõltuvalt jahutus-/elektrikulust) kui pilvel, kui neid majutatakse piiratud võimsusega piirkonnas.

• Virtualiseerimine orkester peab jälgima Võimsuskvoodid, eriti mitmesugust/hüperskaalalist keskkonda. Töökoormuse planeerimine võib osutuda vajalikuks valida ajad/asukohad, kui võimsusmäärad/kättesaadavus on soodsad.

4.3 Geograafilised ja energiatarnijate valikud on olulised

• Pilvede või andmekeskuste piirkondade valimisel kasutuselevõtuks, energiaallikate jaotus;, võrgu võimsus, võimsuse suurendamise risk, jahutus- ja keskkonnaküsimused. Mõnel piirkonnal võib olla varjatud elektrikatkestuse oht või andmekeskuse hõlvamise tõttu suuremad tulevased kulud.

• Näiteks võib väikese varutootmise varuga andmekeskuse piirkonnas esineda kiirustõuse või -kärpeid. See võib mõjutada SLAsid, kulusid ja teie suure töökoormuse täitmist.

4.4 Jätkusuutlikkuse ja turunduse nurk

• Kui avaldate võrdlustulemused, artiklid või moodulid (nagu tihti juhtub), siis võib energia/tõhususe mõõtme lisamine (nt ~X GFLOPS selles piirkonnas kWh kohta) muutuda teie publikule huvi pakkuvaks eriti keskkonnasurve kasvu tõttu.

• Teie kogukonna IT spetsialistid ja tulemuslikkuse entusiastid, rõhutades Energiakulu ülesande kohta, jahutustõhusus;, serveri võimsuse kasutamine võrdlusaluse kohta, lisab eristaja.

Kriisi lahendamise strateegiad

Siin on mõned rakendatavad strateegiad nii makro (tööstus/tööstus) kui ka mikro (ettevõte/tootmisüksus) tasandil.

5.1 Tööstuse/kasulikkuse tasandil

• Nõudlusele reageerimise programmid: Suured andmekeskused võivad osaleda võrgunõudlusele reageerimise kavades (vähendada koormust tippude ajal), et vähendada võrgupinget. Näiteks allkirjastas Google LLC USAs lepingud, et vähendada oma AI-andmekeskuse võimsust tippvõrgu nõudluse ajal. Reuterid

• Võrgu- ja ülekandevõrkude investeeringud: Ehitamise toetamiseks peavad kommunaalettevõtted lisama tootmisvõimsust, ülekandeliine ja alajaamu sageli aastakümnetepikkuseks protsessiks. Siinsed viivitused suurendavad kitsaskohtade ohtu. Deloitte

• Keskkonnasõbraliku energia hankimine + mikrogriididData-centres saab hankida taastuvaid energiaallikaid, ehitada kohapeal tootmist, aku säilitamise või mikrogrillid vähendada sõltuvust pingestatud võrgud.

• Läbipaistvus ja aruandlus: Operaatorid peavad teatama tegelikust energiakasutusest, jahutusmõõdikutest, PUE (energiakasutuse tõhusus) jne, et reguleerivad asutused ja kogukonnad saaksid mõju hinnata. Paljud analüütikud väidavad, et avalikustamine on puudulik. Financial Times

5.2 Rakendamise/ettevõtte tasandil

• Vali hoolikalt piirkond ja energiaallikas: Valida andmekeskuse piirkonnad, kus on hea võrguvõimsus, soodsad võimsuse määrad, tugev taastuvenergia kombinatsioon ja madal piirangute oht.

• Töökoormuse ajakava optimeerimine: Suure töökoormuse puhul (võrdluslennud, mudelikoolitus), sõiduplaan tipptunnist väljas või kui elektrikulu on väiksem. Kasutage piirkondlikke erinevusi kuludes/ajas.

• Võimsusteadlik võrdlusuuringud ja arhitektuurikujundus: meede mitte ainult ei arvuta aega, vaid tarbib energiat (kWh) võrdlusaluse kohta. Optimeerida energia tulemuse kohta, mitte ainult toorkiiruse kohta.

• Tõhususe ja jahutamise parandamine: Prem- või servkasutuse puhul kaaluda suure tõhususega jahutust, vedelat jahutust, hammasrataste tiheduse kompromisse, serverite valikut energiatõhususe tagamiseks.

• Avasta hübriidi / ääre alternatiive: stsenaariumide puhul, kus pilvandmekeskused võivad olla silmitsi piirangute või suuremate kuludega, võib parem kompromiss olla kohalik või serv.

Riskid ja väljavaade

6.1 Mida teha siis, kui kasv jääb kontrollimata?

• Võtmeanalüütikud hoiatavad võrgu läbilaskevõime puudus, eriti energiamahukates piirkondades. Morgan Stanley hinnangul 20% puudus USA andmekeskuse võimsus läbi 2028 on kainestav näitaja. Yahoo rahandus

• Kui võimsus jääb piiratuks, hõlmavad võimalikud riskid järgmist:

  • Suuremad tegevuskulud (energiahinna tõus)

• Pikemad algusajad andmekeskuse kasutuselevõtuks

• Tihedamad piirangud või piirangud suure töökoormuse arvutamisel

• AI infrastruktuuri aeglasem kasutuselevõtt (erinevalt roosilisest kasvuootustest)

• Võimalik, et suurem keskkonnajalajälg, kui fossiilkütuseid kasutatakse lünkade täitmiseks

6.2 Positiivsed väljavaated / muutuste hoovad

• Tõhususe kasv: Isegi kui arvutada nõudlus suureneb, parandada kiibi arhitektuuri, jahutuse ja töökoormuse ajakava võib mõõdukat võimu kasvu.

• Taastuvenergia ja tuumaenergia väljaarendamine: mõned suured tehnoloogiaettevõtted on juba sõlminud elektrienergia ostulepingud tuumaenergia või suuremahuliste taastuvate energiaallikatega, et sammu pidada. Näiteks on mõned andmekeskused ühendatud taaselustatud tuumajaamadega, et rahuldada nõudlust. Le Monde

• Arukam võrguintegratsioon: andmekeskustest võivad saada paindlikud koormused, mis lähevad üle ajale, mil energia on odav või taastuvenergia on külluslik (nõudlus-vastus).

• Metrics ja läbipaistvus: kuna sidusrühmad (valitsused, investorid, kogukonnad) esitavad rohkem küsimusi, avaldavad andmekeskused tõenäoliselt rohkem energia-/jahutusnäitajaid, võimaldades arukamat planeerimist ja võrdlusuuringuid.

Soovitatavad toimingud sulle ja sinu publikule

Arvestades teie huvi ja tööd võrdlusuuringute, virtualiseerimine, pakendamine, IT kogukonna sisu, siin on konkreetsed meetmed, mida võite kaaluda:

1. Energiamõõturi lisamine võrdlusaruannetesse

   • Kui kasutad GPU/CPU võrdlusaluseid, ei võta sa arvesse mitte ainult tarbitud energiat (kWh) ega arvuta ~GFLOPS-i kWh kohta või sarnast tõhususe näitajat.

   • Võrrelda erinevaid pilvi/piirkondi mitte ainult kulude, vaid ka energiatõhususega.

2. Kirjuta sisu saidile / foorumile

   • Tellige artikkel või seeria pealkirjaga ""The energy cost of cloud compute": mida iga IT pro peaks teadma" profiili võimsuse piirangud, piirkondlik võrgu stress, jahutuse mured, kulude risk.

3. Pakkuda juhendit pilvede piirkonna valimiseks võimsuse ja jõudluse järgi, mis täiendab teist jõudluse/virtualiseerumiskeskset sisu.

4. Virtualiseerimine ja hübriidkasutus

   • Avasta, kuidas eelprem GPU/CPU off-load (teie GPU arvutada mahalaadimine GTX 770 + Quadro K420, jne) võrdleb energiawise versus kasutades hüper-skaala pilv klastri piiratud piirkonnas.

   • Avaldada juhtumi-uuringud või tööriistu (nt Power Profiler, plug-in mõõtmiseks GPU klastri energia) oma kogukonnale.

5. Pakendamine ja kasutuselevõtmine

   • Moodulite/plugins/appide (nt teie Joomla moodulid, GPU/AI võrdlusrakendused) kavandamisel kaaluge ~eco-mode® valikute lisamist: nt sõiduplaanid tipptundide ajal, gaasipedaal madalama elektrikulu jaoks, log-võimsusmõõturid.

6. Virtualiseerimiseks (VMware/VirtualBox jne) dokumenteerige parimad tavad energiakulu vähendamiseks, nt vältida ülevarustamist, konsolideerida jõudekoormused, võimaldada jahutus-/hostvõimsust.

7. Pilveteenuste pakkujate kaasamine

   • Jälgige, millised pilve/andmekeskuse pakkujad avaldavad mõõdikuid (PUE, energialiikide kombinatsioon, veekasutus) ning tõstke need oma sisus esile.

   • Julgustage kogukonna liikmeid küsima: "Mis on selle piirkonna energiaallikas? Milline on varuvõrgu võimsus? Kas on olemas energiakvoodid või -piirangud?

Järeldus

Pilve ja tehisintellekti varjatud hind on vaid tellimustasudes makstud dollarites. tohutu, kiiresti kiirenev võimsus ja infrastruktuuri koormus See on kõigi nende tsüklite taga. Andmekeskused ei ole enam interneti passiivsed tagaruumid; need on tööstuslikud elektritarbijad; kelle kasv avaldab kaugeleulatuvat mõju kommunaalteenustele, võrkudele, majapidamistele, tööstusharudele, keskkonnale ja tulemustele orienteeritud IT-spetsialistidele nagu teie.

Kriis (või võib-olla väljakutse) on reaalne: kasvav nõudlus, piiratud pakkumine, vananevad võrgud, jahutus- ja keskkonnakoormus viitavad vajadusele vastutustundlikum planeerimine, Piirkondade teadlikkuse suurendamine, Energiatõhus arhitektuurning läbipaistvad parameetrid. Sest igaüks, kes ehitab rasket töökoormust ~ võrdlusanalüüs GPU / CPU, virtualiseerimine, pakkemoodulid, pilvede kasutuselevõtu ~ seda mõõdet ei saa enam ignoreerida.