Manipulaatiolla pyritään vaikuttamaan saamaan ihminen ajamaan manipuloijan etua vaikuttamalla kyseisen ihmisen järkeilyyn tai päätöksiin heidän tietämättään. Manipulaatio eroaa siis suostuttelusta, jossa ihmisen mieltä pyritään muuttamaan esimerkiksi kannustimin tai vakuuttavin argumentein. Manipulaation voi sisältyä väärän tiedon esittämistä (vrt. pettäminen tai valehtelu) tai esimerkiksi alitajuista vaikuttamista. Manipulaation voi ymmärtää keinona ohittaa ihmisen autonominen tahto ja täten eräänlaisena ihmisen autonomian epäkunnioituksen muotona.
Manipulaatio algoritmien avulla on nähty keskeisenä eettisenä huolenaiheena digitalisoituvissa yhteiskunnissa. Euroopan komissio on jopa ehdottanut, että tekoälysovellukset, joihin sisältyy suuri riski ihmisen manipuloimiseen, kiellettäisiin täysin.
Erityisesti “tönäisyt” (engl. ”nudges”) ovat kiisteltyjä. Tönäisyillä pyritään vaikuttamaan ihmisten päätöksiin hyödyntämällä heidän kognitiivisia vinoumiaan ja rajoituksiaan. Terveellinen ateriavaihtoehto voidaan esimerkiksi laittaa ruokalassa linjaston alkupäähän, jotta ihmiset suosisivat terveellisiä vaihtoehtoja. Tönäisyjä voidaan tehostaa tekoälyn avulla: esimerkiksi sosiaalisen median uutisvirtoja personalisoivat algoritmit esittävät meille mainoksia, jotka soveltuvat aikaisempaan kulutuskäyttäytymiseemme.
Tutkija Karen Yeung on kuvannut algoritmeilla tapahtuvaa vaihtoehtojen kirjon muokkaamista “hypertönäisemisenä” (engl. ”hypernudge”). ”Hypertönäisyt” tapahtuvat tekoälyn vauhdittamana, usein jatkuvasti ja hienovaraisesti sekä käyttäjien tiedostamatta. Paikoin suosittelualgoritmien käyttöä voitaisiinkin kenties luonnehtia manipulaatioksi. Hypertönäisyjen yleistyminen on huolestuttava ilmiö, mutta tönäisyillä voidaan tehdä myös hyvää, kuten kannustaa kuluttajia ympäristöystävällisiin valintoihin. Olisikin keskeistä, että tönäisyjä käytettäisiin oikeasuhtaisesti ja yksinomaan sosiaalisesti hyväksyttäviin tarkoituksiin. Ihmisten autonomian turvaamiseksi olisi myös tärkeää kehittää kansalaisten ”algoritmista lukutaitoa” eli kykyä ymmärtää ja arvioida kriittisesti algoritmien toimintaa arjessa ja yhteiskunnassa.
Voit lukea lisää algoritmisesta lukutaidosta englanniksi täältä.