Generatiivinen tekoäly eli teknologiat, jotka kykenevät tuottamaan tekstiä, kuvaa ja ääntä kehotteiden pohjalta, ovat tulleet tutuiksi viimeisen vuosikymmenen aikana tapahtuneen laajan kehityksen myötä. Chatbotit kuten Gemini tai ChatGPT ovat ohjelmia, jotka toimivat esimerkkeinä tästä kehityksestä.
Tampereen yliopistolla tehdään tutkimusta, jossa muotoillaan chatbotteja ottamaan osaa kansalaisten väliseen keskusteluun verkkoympäristöissä. Väitöskirjatutkija Henri Pullinen tutkii näiden teknologioiden käyttöä kontekstissa, jossa kansalaiskeskustelua pyritään ohjaamaan rakentavaan suuntaan.
Tässä kontekstissa ensimmäisiä vastaan tulevia kysymyksiä on, millaista rakentavan kansalaiskeskustelun tulisi olla? Tähän kysymykseen voidaan pureutua analysoimalla niitä tekijöitä, jotka vaikuttavat myös polarisaation taustalla. Esimerkiksi toksinen käytös verkossa ajaa tavallisia kansalaisia pois keskustelun ääreltä, muuttaen tilan riitelevien äänien kaikukammioksi. Toisaalta erimielisyydet kuuluvat demokraattiseen keskusteluun. Politiikan tutkija Chantal Mouffen kuvaama agonistisen demokratian teoria hyväksyy kamppailun ja kilpailun oleellisena osana demokratiaa, kritisoiden konsensuksen ideaalia vaihtoehtojen tukahduttamisesta. Toksisuus ja kamppailu eivät kuitenkaan ole synonyymejä. Kamppailu voi olla luonteeltaan myös rakentavaa, sellaista, jossa ei luoda vihollisia ja hyökätä heitä vastaan.
Agonistisen demokratian mukainen kilpailu ajatuksista on realistinen pohja kansalaiskeskustelun säännöille. Säännöille, joita voidaan ylläpitää myös automaation keinoin. Tässä kuvaan astuu generatiivinen tekoäly ennalta määriteltyjen parametrien mukaisesti muotoiltuna viestijänä. Chatbotti voidaan muotoilla tuottamaan viestejä esimerkiksi moderaattorina, käyttäen samoja periaatteita kuin moderaattorina toimiva ihminen. Automaattinen moderaattori voi puuttua viestein toksiseen käytökseen, aggressiiviseen kielenkäyttöön tai toisaalta rohkaista hiljaisia osallistujia kertomaan mielipiteensä. Automaattinen moderaattori kykenee havaitsemaan keskustelusta avainsanoja, tekemään analyysiä keskustelun sisällöstä ja vastaamaan muuttuviin tilanteisiin asianmukaisesti.
Hyväksyykö ihminen koneen auktoriteetin?
Asetelmaa on syytä tarkastella myös kriittisesti. Hyväksyykö osallistuja koneen auktoriteetin, vai onko automaattisen moderaattorin viestit helppo ohittaa? Kuinka vaikuttavaa automaattisen moderaattorin viestintä on tavanomaisessa, tai tulehtuneessa ilmapiirissä? Millaisissa tilanteissa pelkkä viestin generoiminen ei ole riittävää, vaan rinnalle tarvitaan myös kovempia keinoja kuten osallistujien estämistä tai poistamista?
Generatiivisen tekoälyn käyttö kansalaiskeskustelun kontekstissa on täynnä ratkaistavia kysymyksiä ja aihepiirejä, joihin tutkimuksen tulee pureutua. Yhteiskunnan polarisaatio on kuitenkin vakava ilmiö, johon purevia lääkkeitä on asianmukaista pyrkiä kehittämään. Automaattisen moderaattorin kehittäminen on yksi mahdollisuus tutkia sitä, kuinka tekoälyyn pohjaavaa teknologiaa voidaan muotoilla vähentämään polarisaatiota verkossa tapahtuvissa keskusteluissa.
Teknologian potentiaalit ihmisten rinnalla
Chatbotin kehitystyöhön liittyvissä haastatteluissa kartoitettiin käsityksiä kansalaiskeskustelun laadusta, siihen vaikuttavista tekijöistä, ja haastateltavia pyydettiin arvioimaan keskustelua moderoivaa prototyyppiä, joka osallistuu keskusteluun viestejä lähettämällä.
Negatiivissävytteistä keskustelua nähtiin erityisesti jännitteisissä aiheissa. Näitä aiheita käsittelevä keskustelu oli usein henkilöön menevää tai jopa aggressiivista. Taustalla vaikuttivat erityisesti sosiaalisen median alustojen toimintamuodot. Netissä viestittiin anonyymisti nimimerkin takaa, ja viestit saattoivat muotoutua algoritmien logiikan mukaisesti. Tämä logiikka painottaa huomiota herättävien muotoilujen näkyvyyden korostamista.
Keskustelullista lähestymistapaa edustava prototyyppi nähtiin mahdollisuutena madaltaa puuttumisen kynnystä, sillä perinteiset moderointitoimenpiteet kuten viestien poistaminen nähtiin rajaavana. Toisaalta haastateltavat esittivät skeptisiä näkemyksiä ihmisten valmiudesta ottaa vastaan viestejä botilta. Tähän liittyivät näkemykset ihmisten negatiivisesta suhtautumisesta automaattisiin teknologioihin ylipäätään.
Teknologisille lähestymistavoille nähtiin kuitenkin potentiaalia erityisesti ihmisten rinnalla. Teknologiat sallivat esimerkiksi verkossa tapahtuvan keskustelun käsittelyn suuressa skaalassa myös silloin, kun henkilöstöresurssit ovat vajavaisia.
Nämä näkemykset suuntaavat huomiotamme jatkossa tekijöihin, jotka vaikuttavat ihmisten suhtautumiseen eri teknologioihin sekä toimintaan osana laajempaa ekosysteemiä, jossa teknologiat toimivat ihmisten rinnalla.
Kirjoittaja: Henri Pullinen