Uusimmat

ChatGPT maksaa järjettömän summan pitää käynnissä – yksi ainut kyselykin yllättävän kallis

Kuva: Muropaketti

29.04.2023 17:11 Muropaketin toimitus

ChatGPT:n päivittäinen toiminta ei todellakaan ole halpaa. Näin väittää ainakin uusi tutkimus.

ChatGPT:n moottorina toimii valtava määrä Nvidian tekoälylaskentaan soveltuvia kiihdyttimiä, jotka muodostavat käytännössä supertietokoneen. Sen rakentamiseen kului satoja miljoonia euroja. SemiAnalysisin tietojen mukaan ChatGPT:n käyttämä järjestelmä koostuu 3617 HGX A100 -palvelimesta, joka vastaa 28 936 kiihdytintä.

Kulut eivät toki lopu laskentainfrastruktuurin rakentamiseen. SemiAnalysisin tutkimuksen mukaan päivittäiset kulut ChatGPT:n ylläpidossa ovat valtaisat. Tutkimuksessa kerrotaan, että OpenAI käyttäisi 694 444 dollaria päivässä ChatGPT:n ylläpitoon. Se vastaa noin 631 tuhatta euroa.

SemiAnalysisillä on esittää jopa jokaisen ChatGPT-kyselyn hinta. Se on väitetysti 0,33 euroa. SemiAnalysisin mukaan hinta saattaa olla jo noussut, sillä kielimallin versio GPT-4 on todennäköisesti vaativampi järjestelmälle.

Microsoft on OpenAI:n merkittävä osakas, joka kehittää parhaillaan uutta tekoälypiiriä nimeltään Athena. Sen toivotaan olevan energiatehokkaampi kuin Nvidian vastaavat piirit.

LUE MYÖS: Tällaisella laitteistolla OpenAI:n ChatGPT toimii – hinta satoja miljoonia

Muropaketin uusimmat