UUSIMMAT

Facebook kehitti uuden tavan huomata deepfake-huijaukset

20.06.2021 09:40 | Muropaketin toimitus

The Vergen mukaan deepfaket eivät tällä hetkellä ole suuri ongelma Facebookissa, mutta yritys rahoittaa edelleen tutkimusta, jolla deepfake-videot ja -kuvat saadaan suitsittua.

Facebookin kanssa kehitysyhteistyössä toimii Michigan State University -yliopisto. Työryhmä on kehittänyt tapaa, jolla deepfaket voi havaita.

Aiemmin on jo pystytty havaitsemaan kohtuullisella menestyksellä tunnettujen tekoälymallien luomat deepfake-videot. Facebook ja MSU haluavat kuitenkin tähdätä pidemmälle ja tunnistaa myös tuntemattomien tekoälymallien luomat deepfaket.

Tuntemattomien mallien tunnistaminen on tärkeää, ettei deepfakeja levittävä taho pysty kiertämään tunnistusta. Tunnistamisessa pyritään löytämään hyperparametreiksi kutsuttuja arkkitehtuurillisia tyypillisyyksiä, jotta video saataisiin paljastettua deepfakeksi.

Vaikka deepfakeja pystytään jo ainakin osittain tunnistamaan, tulokset eivät vielä ole kovinkaan hyviä. Viime vuonna Facebook järjesti kilpailun, jossa pyrittiin tunnistamaan deepfakeja. Voittaja-algoritmi tunnisti deepfaket vain 65,18 prosenttisesti.