Erikoisoperaatioiden yksikkö haluaa luoda deepfake-ihmisiä – toimivat verkossa luoden vakuuttavaa sisältöä

Yhdysvalloissa puuhataan hanketta, jonka myötä Internetissä voisi toimia syväväärennettyjä, aidoilta ihmisiltä vaikuttavia botteja.

The Interceptin haltuunsa saaman hankinta-asiakirjan mukaan Yhdysvaltain puolustusvoimien erikoisoperaatioiden yksikkö Joint Special Operations Command (JSOC) etsii yrityksiä, jotka auttaisivat luomaan niin vakuuttavia väärennettyjä Internet-käyttäjiä, etteivät ihmiset tai tietokoneet pysty havaitsemaan niiden olevan väärennöksiä. Julkaisu kutsuu 76-sivuista asiakirjaa JSOC-yksikön ”toivomuslistaksi”.

Tällaista kehittynyttä teknologiaa haluttaisiin käyttää salaisissa operaatioissa. The Intercept kertoo materiaalista selviävän, että JSOC on kiinnostunut luomaan vakuuttavia verkkopersoonia sosiaalisen median alustoille, sosiaalisiin verkostoihin ja muuallekin verkkosisältöön.

Asiakirjassa sanotaan, että väärennetyistä ihmisistä luotujen kuvien lisäksi ”ratkaisun tulisi sisältää taustakuvia, kasvo- ja taustavideota sekä äänikerroksia”. Tarkoituksena olisi luoda esimerkiksi selfie-videoita, joissa olisi tekaistu tausta – ja ainakin joskus myös oikeita ihmisiä. Videoista halutaan niin kehittyneitä, että sosiaalisen median algoritmit eivät tunnista niitä tekaistuiksi.

The Intercept raportoi, että Pentagon on jo viime vuosina käyttänyt väärennettyjä sosiaalisen median tilejä omien etujensa edistämiseen. Vuonna 2022 Meta ja Twitter poistivat verkoston, joka käytti U.S. Central Command (USCENTCOM) -komentokeskuksen luomia feikkitilejä. Osa tileistä sisälsi profiilikuvia, jotka oli generoitu menetelmillä, joita JSOCin dokumentissa kuvaillaan.

Reutersin mukaan Special Operations Command (SOCOM) puolestaan kampanjoi koronaviruspandemian aikana väärennettyjen sosiaalisen median tilien avulla. Tarkoituksena oli herättää epäluottamusta kiinalaisia rokotteita kohtaan.

Väärennetyt tilit vaikuttavat olevan nykyisellään tunnistettavissa liian helposti. Se selittänee asiakirjassa mainitut toiveet parempien työkalujen kehittämisestä.

Deepfake-tekniikat kehittyvät jatkuvasti, mutta niin myös tunnistustekniikat. Voit lukea täältä Reality Defenderin uudesta ratkaisusta syväväärennösten tunnistamiseen: Reality Defender