Suuryritys varoitti – nykyiset datakeskukset eivät sovellu tekoälyn aikakaudelle
Kuva: Pixabay
Schneider Electric on Ranskassa pääkonttoriaan pitävä monikansallinen suuryritys, jonka toimialaa on digitaalinen automaatio ja energiaratkaisut. Yksi sen ydinalueista on datakeskusosaaminen.
Schneider Electric varoitti nyt tekoälyn kuormittavuudesta datakeskuksille. Yrityksen mukaan datakeskusten suunnittelua täytyy jatkossa arvioida uudelleen.
Tekoälyn kouluttamisen aiheuttama kuormitus vaatii usein matalan viiveen ja suuren kaistanleveyden, jotta koulutus toimisi tehokkaasti. Tämä tarkoittaa suurempaa määrä laiteräkkejä pienemmällä alueella, joka asettaa paineita virransyötölle ja jäähdytykselle.
Kuormituksen määrästä saa osviittaa, kun tietää palvelimen kuluttavan esimerkiksi kymmenen kilowattia, ja suuren kielimallin kouluttamiseen voidaan tarvita satoja palvelimia.
Nvidian himoittu H100-kiihdytin. Kuva: @ Nvidia
Palvelinten hajauttaminen voisi olla muuten ratkaisu, mutta tällöin palvelinten huipputehokkaat kiihdyttimet jäävät alikäytölle. Kiihdyttimille ei tällöin voida välttämättä toimittaa tarpeeksi dataa hajauttamisen myötä.
Schneiderin kuvailemat ongelmat eivät ole niinkään ongelma valmiiden tekoälymallien käytölle. Sen sijaan niiden koulutus vaatii huomattavasti resursseja.
Schneiderin raportissa (pdf-tiedosto) kannustetaan toimijoita ymmärtämään nykyiset datakeskusten vaatimukset niin tiedonkäsittelyn kuin fyysisen infrastruktuurinkin osalta. Tekoälyn nousu tulee Schneiderin mukaan vaatimaan muutoksia virtaratkaisuihin, jäähdytykseen, palvelinräkkien konfigurointiin ja hallintasovelluksiin.
LUE MYÖS: ChatGPT-haut kuluttavat huimasti vettä – viisi hakua ja yli kaksi juomalasia
