Uusimmat

Suuryritys varoitti – nykyiset datakeskukset eivät sovellu tekoälyn aikakaudelle

Kuva: Pixabay

24.09.2023 16:16 Muropaketin toimitus

Schneider Electric on Ranskassa pääkonttoriaan pitävä monikansallinen suuryritys, jonka toimialaa on digitaalinen automaatio ja energiaratkaisut. Yksi sen ydinalueista on datakeskusosaaminen.

Schneider Electric varoitti nyt tekoälyn kuormittavuudesta datakeskuksille. Yrityksen mukaan datakeskusten suunnittelua täytyy jatkossa arvioida uudelleen.

Tekoälyn kouluttamisen aiheuttama kuormitus vaatii usein matalan viiveen ja suuren kaistanleveyden, jotta koulutus toimisi tehokkaasti. Tämä tarkoittaa suurempaa määrä laiteräkkejä pienemmällä alueella, joka asettaa paineita virransyötölle ja jäähdytykselle.

Kuormituksen määrästä saa osviittaa, kun tietää palvelimen kuluttavan esimerkiksi kymmenen kilowattia, ja suuren kielimallin kouluttamiseen voidaan tarvita satoja palvelimia.

Nvidian himoittu H100-kiihdytin. Kuva: @ Nvidia

Palvelinten hajauttaminen voisi olla muuten ratkaisu, mutta tällöin palvelinten huipputehokkaat kiihdyttimet jäävät alikäytölle. Kiihdyttimille ei tällöin voida välttämättä toimittaa tarpeeksi dataa hajauttamisen myötä.

Schneiderin kuvailemat ongelmat eivät ole niinkään ongelma valmiiden tekoälymallien käytölle. Sen sijaan niiden koulutus vaatii huomattavasti resursseja.

Schneiderin raportissa (pdf-tiedosto) kannustetaan toimijoita ymmärtämään nykyiset datakeskusten vaatimukset niin tiedonkäsittelyn kuin fyysisen infrastruktuurinkin osalta. Tekoälyn nousu tulee Schneiderin mukaan vaatimaan muutoksia virtaratkaisuihin, jäähdytykseen, palvelinräkkien konfigurointiin ja hallintasovelluksiin.

LUE MYÖS: ChatGPT-haut kuluttavat huimasti vettä – viisi hakua ja yli kaksi juomalasia