Tekoälyn pelätään olevan riski turvallisuudelle ja vapaudelle – EU haluaa sääntelyä

Tekoälyjärjestelmien kehittymisen myötä niihin liittyy myös huolia. EU haluaa tarttua tähän pulmaan.

Euroopan komissio ehdottaa sääntelyä, joka ohjaisi miten yritykset, organisaatiot ja valtioiden virastot voivat käyttää tekoälyjärjestelmiä. Jos ehdotus menee läpi, siitä tulee lopulta ensimmäinen laki, joka liittyy tekoälyn sääntelyyn.

Komission mukaan laki on tarpeen kansalaisten ja yritysten perusoikeuksien turvaamiseksi. Mahdollinen tuleva laki koostuisi neljästä eri tasosta.

Ensimmäisellä tasolla ovat ”hyväksymiskelvottoman riskin” tekoälyt. Tälle tasolle kuuluvat algoritmit, joita pidetään ”selkänä uhkana turvallisuudelle, elinkeinolle ja ihmisten oikeuksille”. Laki kieltäisi sovellutukset kuten Kiinan sosiaalisen pisteytysjärjestelmän sekä muut vastaavat sovellutukset, jotka on suunniteltu ihmisten käyttäytymisen muokkaamiseen.

Toisella tasolla ovat ”korkean riskin” tekoälyt. Komission määritelmä tästä tasosta on laaja, ja siihen kuuluu ohjelmistoja, jotka ovat tällä hetkellä jo käytössä. Tällaisia sovellutuksia ovat ainakin virkavallan käyttämät tekoälyjärjestelmät, jotka saattavat olla ongelmallisia ihmisoikeuksien kannalta. Huolta aiheuttavat muun muassa kasvojentunnistus sekä biometriset tunnistusmenetelmät. Komissio haluaisi kieltää useimmat toisen tason sovellutukset julkisilla alueilla , mutta niitä voitaisiin kuitenkin käyttää kansalliseen turvallisuuteen vedoten.

Kolmannelle tasolle sijoittuvat ”rajoitetun riskin” tekoälyt. Näihin kuuluvat ainakin keskustelubotit ja henkilökohtaiset avustajat kuten Google Duplex. Näiden järjestelmien läpinäkyvyyden täytyy olla riittävä, jotta niitä ei voi sekoittaa oikeaan ihmiseen. Käyttäjällä täytyy myös olla vapaus valita, vuorovaikuttaako hän tekoälyn kanssa vai ei.

Neljännellä tasolla ovat ”minimaalisen riskin” tekoälyt. Tällaiset tekoälyjärjestelmät eivät uhkaa ihmisten turvallisuutta tai vapautta. Sellaisia ovat esimerkiksi sähköpostin suodattamiseen ja peleihin liittyvät tekoälyt.

Jos laki astuu joskus voimaan, siihen kulunee vielä vuosia EU-koneiston rattaissa.