Aikuisviihdesisältöä tarjoavat deepfake-sivustot keräsivät 200 miljoonaa vierailua – nyt lain koura puuttuu peliin

Deepfake- eli syväväärennöstekniikkaa voidaan käyttää väärin. Nyt Yhdysvaltalainen viranomainen on nostanut kanteen syväväärennössivustoja vastaan.

San Franciscolainen syyttäjä Yvonne Merén heräsi ongelmaan luettuaan teinipojista, jotka käyttävät deepfake-sovelluksia. Kyseiset pojat olivat hyödnytäneet luokkatovereidensa kuvia, ja siirtäneet heidän kasvonsa aikuisviihdenäyttelijöiden kasvojen tilalle.

Syväväärennöksiä voi tehdä niin kuviin kuin videoihinkin, ja ne ovat erittäin uskottavan näköisiä. Tekniikassa onkin selkeä mahdollisuus haitantekoon ja väärinkäyttöön.

Syyttäjänvirasto nosti kanteen Internetissä toimivia syväväärennössivustoja vastaan. Kanteessa lukee muun muassa, että kyseisillä sivustoilla on vierailtu 200 miljoonaa kertaa vuoden 2024 ensimmäisen puoliskon aikana.

Syyttäjä David Chiu sanoi, että sivustojen tarjoamat tekoälymallit käyttävät syväväärennöksissä pornografista materiaalia, ja myös lasten hyväksikäyttöön liittyvää materiaalia. Chiu huomautti myös, että syväväärennetyn materiaalin alkuperää on lähes mahdotonta löytää sen levittyä verkkoon.

Deepfake-kuvien ja videoiden väärinkäyttö ei ole enää uusi asia. Telegramissa toimiva deepfake-botti muokkasi jo vuonna 2020 yli 100 000 alastonkuvaa sosiaalisen median kuvien pohjalta.