Nyt voit jutella näytönohjaimellesi – Nvidia julkaisi Chat with RTX -tekoälytyökalun

Sovellus on kenen tahansa ladattavissa ja kokeiltavissa, kun koneesta löytyy sopivaa rautaa.

Nvidia kertoo Chat With RTX:n olevan demosovellus GPT-tyyppisestä kielimallista, jonka voi muokata mieleisekseen. Chat With RTX osaa suorittaa erilaisia, käyttäjän sille antamia tehtäviä.

Paikallisesti toimivalle tekoälypohjaiselle chatbotille voi syöttää ainakin YouTube-videoita ja omia dokumentteja, joista se osaa luoda yhteenvetoja. Sovellus osaa myös antaa vastauksia syötettyjen tietojen tai kontekstin perusteella.

The Vergen mukaan sovellus on vielä alkuvaiheessa. Silti siitä voi huomata, että sovelluksella on potentiaalia nousta suuria kokoelmia tietoa käsittelevien henkilöiden työkaluksi.

Käytännössä Chat With RTX asentaa tietokoneelle verkkopalvelimen, joka sitten suorittaa Pythonin sekä Mistral- tai Llama 2 -kielimallien avulla käyttäjän kyselyjä.

Sovellus tarvitsee kaverikseen GeForce RTX 30- tai GeForce RTX 40 -sarjan näytönohjaimen, jossa on vähintään kahdeksan gigatavua VRAM-muistia. Toiminnassaan Chat With RTX hyödyntää erityisesti tensor-ytimiä.

Sovelluksen voi ladata täältä: Chat With RTX. Alla video.