KITE-hankkeen etiikkaryhmän kansalaispaneelissa keskusteltiin 7.12.2022 tekoälyn eettisistä ulottuvuuksista. Tekoälyn soveltamiselle kaupunkiympäristössä nähtiin paljon potentiaalia vahvistaa kansalaisille kohdistettuja palveluita ja niiden saavutettavuutta. Tekoäly nähtiin myös mahdollisuutena helpottaa kaupunkilaisen arkea. Lisäksi paneeli nosti esiin useita haasteita ja eettisiä kysymyksiä: Mitä käy yksityisyydelleni? Myydäänkö tietojani eteenpäin ja kenelle ja voidaanko tiedot varastaa? Voiko tekoäly syrjiä osaa kansalaisista? Kenen etua tekoäly lopulta palvelee ja kenen kustannuksella?
Paneeli peräänkuulutti, että tekoälyratkaisujen tulee heijastella kaupungin julkisia arvoja ja kansalaislähtöisyyttä. Kansalaispaneelin mukaan tekoälyn kehittämisessä ja käytössä tulisi noudattaa seuraavia periaatteita:
1. Yhdenvertaisuus ja tasa-arvo
Kaupunkiympäristön tulisi olla yhdenvertaisuuden ja tasa-arvon edelläkävijä. Siksi yhdenvertaisuuden ja tasa-arvon tulisi olla myös tekoälyn kehittämisen ja soveltamisen perusperiaate. Tekoäly ei saa vaarantaa yhdenvertaisia mahdollisuuksia käyttää palveluita. Sen sijaan sen tulisi vahvistaa haavoittuvassa asemassa olevien yhdenvertaisia mahdollisuuksia. Siksi tekoälyn kehityksessä ja käytössä on kiinnitettävä huomiota esteettömyyteen ja saavutettavuuteen ja konsultoitava monipuolisesti eri näkökulmia jo kehitystyön aikana. Tekoäly ei saa syrjiä ketään henkilökohtaisten ominaisuuksien, kuten iän, sukupuolen, etnisen taustan tai kielen perusteella.
Keinoja periaatteen toteuttamiseksi ehdotettiin käyttäjäpaneeleita jatkuvan seurannan ja kehittämisen tukena sekä eri näkökulmia edustavia ”agentteja.” Lisäksi kaupunkiympäristössä voisi olla lomakkeita ja haastattelijoita, jotka jalkautuvat kaupunkilaisten luo kartoittamaan tilanteita. Tekoälyn käyttämän datan keruun ja hyödyntämisen osalta tulisi käyttää sellaisia menetelmiä, joiden avulla data edustaa mahdollisimman laajasti eri käyttäjäryhmiä. Palveluita sijoitettaessa tulee huomioida, että toimipisteitä on oltava kaikkien saatavilla.
2. Ihmislähtöisyys
Tekoälyä tulee kehittää ensisijaisesti ihmisten tarpeisiin, ihmisten lähtökohdista. Tekoälyn pitää helpottaa julkisten palvelujen saamista, mitta tehokkuus ei kuitenkaan saa mennä ihmislähtöisyyden edelle. Tekoälyä kehitettäessä on siis käytävä pohdintaa siitä, mikä on kehittämisen perustarkoitus ja missio: onko tekoälystä tulossa renki vai isäntä?
Ihmislähtöisyys tarkoittaa myös sitä, että tekoälyratkaisujen käyttöön on tarjottava riittävää tukea sitä tarvitseville kansalaisille, jotta kaikilla on tosiasiallisesti mahdollisuus hyödyntää niitä.
3. Suhteellisuus
Tekoälyn käyttöön liittyy usein esimerkiksi yksityisyyteen liittyviä riskejä ja haittoja. Siksi tekoälyä kehitettäessä ja sovellettaessa on varmistettava, että teknologian hyödyt ja riskit ovat tasapainossa. Tekoäly ei sovi kaikkiin tilanteisiin, vaan monet tilanteet vaativat yhä ihmisen harkintaa ja empatiaa. Erityisesti sellaisilla osa-alueilla, joilla empatialla on keskeinen rooli (esim. terveyspalvelut), tekoälyn käyttöön tulisi kohdistaa erityisen huolellista harkintaa.
Suhteellisuuden varmistamiseksi tekoälyä saa lähtökohtaisesti käyttää vain siihen tarkoitukseen, johon se on alun perin suunniteltu.
4. Suostumus
Tekoälyn soveltamisen tulee perustua suostumukseen. Suostumus on saatava sekä tekoälyn käytön kohteelta että siltä, jonka dataa tekoälyn kehittämiseen ja hyödyntämiseen käytetään. Kaupunkilaisilla pitää siis olla mahdollisuus sekä hyväksyä että kieltää tietojensa käyttö kaupunkiympäristön palveluiden kehittämiseen. Käyttäjällä on lisäksi säilyttävä päätäntävalta siihen, haluaako hän jatkaa tekoälysovelluksen käyttöä ja tarvittaessa peruuttaa suostumuksensa.
5. Avoimuus ja riittävä tiedotus
Käyttäjälle on aina selkeästi kerrottava, jos palvelussa hyödynnetään tekoälyä. Käyttäjän on myös saatava tietoa siitä, mikä osan palvelusta toteutetaan tekoälyllä ja miten. Kuntalaisten on saatava jatkuvasti tietoa myös kehitteillä olevista tekoälypalveluista ja niiden vaatimista resursseista, jotta niiden hyötyjä voidaan arvioida suhteessa niiden vaatimiin kustannuksiin myös kansalaisten toimesta. Avoimuus mahdollistaa myös tekoälyn jatkuvan kontrollin ja riskien minimoimisen.
Avoimuus ja tiedotus ovat edellytyksiä sille, että kaupunkilainen voi antaa periaatteen 4 mukaisen suostumuksen tekoälyn käytölle. Tiedotuksen tulisi olla aktiivista ja selkeästi kaikkien kansalaisten saatavilla. Tämä edellyttää myös tiedotukselta periaatteen 1 mukaista yhdenvertaisuutta (esim. monikielisyys).
6. Jatkuva kehittäminen ja kontrolli
Tekoälyn hyödyntämisen tulee perustua jatkuvalle kehittämiselle. Tekoälyratkaisuiden hyötyjä ja haittoja on arvioitava jatkuvasti myös teknologian käyttöönoton jälkeen: Tekoälyn on oltava sellaista, että sitä voidaan muokata ja kehittää tarpeen muuttuessa, tai jos käytössä havaitaan haasteita. Tämä vaatii jatkuvaa yhteistyötä toisaalta kunnan ja kuntalaisten välillä ja toisaalta kunnan sekä tekoälyä kehittävien yritysten välillä. Jatkuvaan kehittämiseen on siten varattava jatkuvaa resurssia, joka mahdollistaa keskustelun kunnan, kuntalaisten ja yritysten kesken.
Koska koneoppimiseen perustuva tekoälyjärjestelmä oppii jatkuvasti sille syötettävästä datasta, se voi käytön myötä muuttua. Tekoälyjärjestelmää on siksi jatkuvasti seurattava järjestelmän oppimisesta ja muuntumisesta johtuvien mahdollisten haittojen havaitsemiseksi ja korjaamiseksi. Tekoäly pitää myös voida ottaa pois käytöstä, jos haittoja ilmenee. Jotta tällainen kontrolli olisi mahdollista, järjestelmän tulisi olla riittävän läpinäkyvä ja siihen tulee rakentaa riittävät mekanismit häiriökäytön ja haitallisten ominaisuuksien muodostumisen ehkäisemiseksi.
Näiden aiheiden lisäksi paneelissa keskustelua herättivät yksityisen ja julkisen välinen yhteistyö, sekä laillisuuden keskeinen rooli: tekoälyn kehittämisen ja käytön on aina perustuttava lakiin.
Tämä blogiteksti perustuu kansalaiskeskusteluun, jonka KITE-hanke järjesti 7.12.2022 Tampereen yliopistolla. Keskusteluun osallistujina oli mm. aktiiveja Tampereen vanhusneuvostosta, vammaisneuvostosta, Kynnys ry:stä ja nuorisovaltuustosta sekä asiantuntijoita esim. Sitralta, mutta keskustelussa kukaan yksilö ei edustanut taustaryhmiään, vaan oli paikalla kansalaisen roolissa. Lämmin kiitos osallistujille! Keskustelu oli osa tekoälysuosituksien laatimisen ja paikallisen soveltamisen prosessia. KITE:n tutkijan Otto Sahlgrenin laatima kattava tekoälyetiikan käsikirja valmistui 7.2.2023 ja löytyy osoitteesta: