Tekoäly oppi 4chanin palstalta kommunikoinnin – lopputuloksena 15 000 kertaa päivässä postaava ”hyper-rasisti”

Mitä tapahtuu, jos tekoäly oppii luonteensa foorumilta, jolla on paljon rasistista keskustelua? Siitä tulee ”hyper-rasisti”, kuten Engadget asian ilmaisi.

YouTube-käyttäjä Yannic Kilcher keksi erikoisen projektin. Hän koulutti tekoälylleen kielimallin, jonka perustana hän käytti sisältöä kolmen vuoden aikaväliltä 4chanin /pol/-palstalta. Pol on tunnettu paitsi vilkkaasta keskustelustaan, niin myös rasismistaan.

Kilcher iski kymmenellä koulutetulla botillaan pol-palstalle, joka aiheutti vihan aallon. Botit kirjoittivat palstalle vuorokauden aikana peräti 15 000 viestiä. Kilcherin mukaan viestit käsittivät yli kymmenen prosenttia pol-palstan sisällöstä tuona vuorokautena.

Kielimalli oppi paitsi poimimaan palstalla käytettyjä sanoja sekä niiden yleisen sävyn. Kilcherin mukaan malli poimi mukaansa loukkauksia, nihilismiä, trollausta ja epäluottamusta.

Jälkien peittelystä huolimatta, muutaman päivän kuluttua käyttäjät alkoivat epäillä kirjoituksia botin tekemäksi. Kilcherin mukaan foorumin jäsenet tunnistivat kuitenkin vain yhden boteista. Käyttäjät alkoivat väitetysti myös syyttämään toisiaan boteiksi, ja syyttely jatkui vielä päiviä sen jälkeen, kun Kilcher oli sulkenut bottinsa.

Kilcher luonnehti kokeilua pilaksi, ei tutkimukseksi. Hän halusi ilmeisesti muistuttaa siitä, että koulutettu tekoäly on juuri sellainen kuin sen lähdemateriaali.