Neljä kysymystä ennen tekoälyjärjestelmän käyttöönottoa

Robotit ja tekoälyjärjestelmät voivat tuottaa hyvinvointia tai kärsimystä, ja niiden hyödyt ja haitat voivat jakautua epätasaisesti. Lähtökohtaisesti ne on rakennettava edistämään hyvinvointia, kunnioittamaan autonomiaa, yksilöiden perusoikeuksia ja oikeudenmukaisuuden vaatimuksia sekä välttämään kärsimyksen tuottamista. Esitämme tässä nyrkkisäännön kaltaisen kaavion moraalisen arvioinnin vaiheista.

1. Tuottaako kyseinen järjestelmä suoraan vahinkoa tavalla, joka rikkoo perusoikeuksia?

Ensimmäinen kysymys koskee tekoälyjärjestelmän itsensä toiminnan eettistä arviointia. Rikkooko sen toiminta yksilöiden perusoikeuksia, tai muita keskeisiä moraalisia periaatteita (kuten elämän säilymistä)? Nk. keskitason periaatteet ovat hyvä lähtökohta näiden tarkasteluun.

2. Aikomattomat yhteiskunnalliset kerrannaisvaikutukset tulee ottaa huomioon ja ehkäistä eriarvoistavat vaikutukset.

Toiseksi, ei-aiotut yhteiskunnalliset vaikutukset tulee ottaa huomioon. Tulee etukäteen arvioida eriarvoistavia vaikutuksia, kun tekoälyjärjestelmä on laajasti käytössä: synnyttääkö se merkittävän riskin yksien hyötymisestä toisten kustannuksella? Jos halutaan tehdä ihmiskokeita, on varmistettava, että eriarvoistavia mekanismeja kyetään ennakoimaan ja ehkäisemään.

3. Vastuukysymykset tulee ratkaista etukäteen.

Tekoälyjärjestelmiä itseään ei voi pitää moraalisesti vastuullisena tahona. Vastuu on aina ihmisillä, ja jakautuu eri rooleissa oleville eri tavoin.

4. Institutionaalis-teknologisen prosessin kyky oppia virheistä tulee taata. Kyky ymmärtää ja korjata virheet ovat keskeisiä

Elämme aina keskellä historiallista prosessia, jolle ovat luonteenomaisia yritykset ja erehdykset. Koko yhteiskunnallis-teknologista kokonaisuutta voi lähestyä eräänlaisena tutkimuksen prosessina. Keskeistä kyseiselle prosessille on kyky ymmärtää mistä virheet johtuvat ja kyky korjata ne.

Vasta kun näihin neljään kysymykseen on saatu oikea vastaus, voidaan käyttöönotolle antaa eettinen lupa.

***

Perustuu englanninkieliseen esitelmäämme ”Some rules of thumb for an ethical AI” valtiovarainministeriön seminaarissa tietopolitiikkaa tekoälyn aikakaudella.

Antti Kauppinen
Arto Laitinen