Googlen tekoäly munailee pahasti – suosittelee vaarallisia sivustoja

Tekoälyavustajien toiminnassa on vielä paljon viilaamista. Ne saattavat suositella välillä vähän mitä sattuu.

Google aloitti aiemmin tässä kuussa Search Generative Experience (SGE) -teknologiansa kokeilevan käyttöönoton. Tekniikan pitäisi sallia monimutkaisemmat ja kuvailevammat kysymykset hakukoneelta. SGE tarjoaa myös tekstitiivistelmiä käyttäjän hakemista sivustoista ja sisällöstä.

Google kommentoi blogissaan seuraavasti:

”Haku tarjoaa uusia generatiivisia tekoälyominaisuuksia, joiden avulla hakemiseen käytetty työmäärä vähenee, ja voit ymmärtää asian nopeammin, löytää uusia näkökulmia ja oivalluksia sekä saada asiat helpommin valmiiksi.”

Hyvältä siis kuulostaa. SEO-konsultti Lily Ray kuitenkin huomasi, että SGE antaa outoja tuloksia. Hän kysyi tietoja koiranpennuista, johon hän sai ehdotuksia vaarallisista huijaussivustoista, jotka levittävät haittaohjelmia.

BleepingComputerin mukaan kaikki epäilyttävät tulokset ovat niin samankaltaisia, että niiden täytyy olla osa samaa SEO-myrkytyskampanjaa, jonka avulla tulokset kapuavat korkealle Googlen seulassa. Huijaussivustoille käyttäjä viedään useiden uudelleenohjausten kautta, ja käyttäjä yritetään samalla saada ottamaan vastaan selainilmoituksia. Niiden kautta tarjotaan teknistä tukea ja vaarallisia lahjoja.

Google korjailee SGE-hakuaan jatkuvasti. Tiettävästi ainakaan koiranpentuja hakiessaan ei enää päädy huijaussivustoille.

LUE MYÖS: Nvidian Jensen Huang uskoo AGI-tekoälyn tulevan 5 vuoden sisään