Tekoäly demokratian peilinä

Tekoälyä uhkana pitävät tahot varoittavat, että tekoälyn kehitys on karkaamassa ihmiskunnan hallinnasta ja johtamassa tilanteeseen, jossa ihmiset eivät enää kykene ymmärtämään sen toimintaa.

Vaarana on, että yhteiskunnallisesti merkittäviä päätöksiä alkaa ohjata teknologia, jonka toimintaperiaatteet ja riskit jäävät demokraattisen kontrollin ulottumattomiin. Tekoäly on kuin vapaaksi päässyt pullonhenki, jota on mahdotonta pysäyttää.

Tekoälyn kummisedäksi kutsuttu emeritusprofessori Geoffrey Hinton maalaa haastattelussaan melko synkän tulevaisuuskuvan. Hintonin mukaan ihmiskunta voi osoittautua ohimeneväksi vaiheeksi älykkyyden evoluutiossa: biologinen äly on synnyttänyt digitaalisen älyn, joka voi puolestaan oppia kaiken ihmisten tuottaman tiedon, toimia ihmistä nopeammin ja lopulta tehdä ihmiset tarpeettomiksi.

Tekoälyn puolustajat korostavat sen potentiaalia vahvistaa demokratiaa parantamalla päätöksenteon laatua vähentämällä inhimilliseen toimintaan liittyviä vinoumia ja sattumanvaraisuutta. Tekoälyn nähdään tekevän hyvää, koska se kykenee käsittelemään laajoja tietomassoja, tunnistamaan asioiden välisiä riippuvuuksia ihmissilmää tarkemmin ja tuottamaan puolueettomia arvioita monimutkaisista yhteiskunnallisista kysymyksistä.

Optimistisimmissa näkemyksissä tekoäly mielletään teknologiaksi, joka voi vahvistaa kollektiivista ongelmanratkaisukykyä, laajentaa kansalaisten osallistumismahdollisuuksia ja tukea tietoperustaista päätöksentekoa. Tekoälyn potentiaalia ei tällöin liitetä vain tehokkuuteen vaan myös ajatukseen avoimemmasta ja osallistavammasta demokratiasta.

Tekoäly kehittyy sellaisella vauhdilla, että luultavasti monet tänään esitetyt näkemykset osoittautuvat jo huomenna vanhentuneiksi. Siksi onkin paikallaan katsoa tekoälyä teknologisen innovaation sijaan laajemmasta perspektiivistä.

Hyvänä matkaoppaana toimii Roy Heidelbergin teos Nobody’s Decision – AI and the Perfection of Bureaucracy. Teos on demokratian näkökulmasta kiinnostava erityisesti siksi, että se lähestyy tekoälyä hallinnan ja byrokratian jatkumona. Kirjan keskeinen väite on, että tekoäly ei murra byrokraattista logiikkaa vaan pikemminkin täydellistää sitä, sillä se vie byrokratiaan liittyvät ihanteet – kuten tehokkuuden ja objektiivisuuden – uudelle tasolle. Tällä on demokratian kannalta sekä hyviä että ongelmallisia seurauksia.

Tekoäly edustaa Heidelbergin mukaan mitä suurimmassa määrin poliittista teknologiaa. Tämän ymmärtäminen edellyttää huomion kiinnittämistä erityisesti kysymykseen siitä, kuka päättää ja millä perusteella. Heidelberg tukeutuu kansainvälisen oikeuden teoreetikkona tunnetun Carl Schmittin ajatukseen suvereenista (sovereignty).

Schmittin mukaan suvereeni on se, joka kykenee tekemään päätöksen poikkeustilanteessa eli tilanteessa, jossa valmiit säännöt, normit ja menettelytavat eivät yksin riitä. Tästä näkökulmasta päätöksenteko ei ole täysin palautettavissa sääntöjen mekaaniseen soveltamiseen, sillä jokainen konkreettinen päätös sisältää aina myös tulkintaa, harkintaa ja tilanteen erityispiirteiden arviointia.

Moderni hallinto on kuitenkin pitkälti rakentunut pyrkimykselle tehdä päätöksenteosta mahdollisimman ennakoitavaa ja yhdenmukaista. Tätä ajattelutapaa edusti hallintotieteen perustajiin lukeutunut ja sittemmin Yhdysvaltojen presidentiksi päätynyt Woodrow Wilson. Hänen mukaansa hyvässä päätöksenteossa ongelmat pyritään ratkaisemaan vähentämällä inhimillisen harkinnan ja henkilökohtaisen vallankäytön merkitystä.

Politiikan asialistalla olevat ongelmat näyttäytyvät ennen kaikkea teknisinä kysymyksinä, joiden ratkaiseminen edellyttää asiantuntijatiedon hyödyntämistä ja standardoitujen hallinnollisten menettelytapojen noudattamista.

Heidelbergin tulkinnassa tekoäly sijoittuu Schmittin korostaman inhimillisen harkinnan ja Wilsonin persoonattoman hallinnan väliseen jännitteeseen. Sen lupaus perustuu ajatukseen, että byrokraattisen rationaalisuuden tehokkuus ja inhimillisen päätöksenteon ennakoimattomuus voidaan sovittaa yhteen.

Samalla tekoäly kuitenkin kärjistää demokratiaan sisältyviä ristiriitoja. Vaikka tekoäly lisää tehokkuutta, ennustettavuutta ja kontrollia, se samalla etäännyttää päätöksentekoa ihmisistä ja heikentää kokemusta toimijuudesta, vastuusta ja poliittisesta vaikutusmahdollisuudesta.

Kun päätökset näyttävät syntyvän neutraalien järjestelmien tuella, hämärtyy samalla kysymys vallasta ja vastuusta: kuka lopulta määrittää päätösten taustalla olevat tavoitteet, arvot ja poikkeukset? Legitimiteetti on modernissa hallinnossa rakentunut henkilöistä riippumattomien sääntöjen ja menettelytapojen varaan, mutta tekoäly vie tämän logiikan askeleen pidemmälle. Päätöksenteko muistuttaa entistä enemmän teknistä prosessia, jossa ei ole tilaa – eikä myöskään tarvetta – harkinnalle.

Ei ihme, että tutkijat ovat varoittaneet tietokoneohjelmoitujen algoritmien ohjaamasta algokratiasta ja kansalaisten episteemisen toimijuuden kaventumisesta. Episteemisellä toimijuudella viitataan kansalaisten mahdollisuuksiin hankkia, arvioida ja tulkita tietoa sekä erottaa luotettava tieto virheellisestä.

Neuroverkkoihin perustuva tekoäly haastaa schmittiläisen oletuksen siitä, että harkintaa tarvitaan epäselvissä päätöksentekotilanteissa, joissa säännöt eivät auta. Sen toimintalogiikka ei perustu pelkästään eksplisiittisiin sääntöihin vaan kykyyn tunnistaa tilastollisia malleja, tehdä heuristisia päätelmiä ja tuottaa ratkaisuja myös epäselvissä tilanteissa.

Tekoälytutkimuksen uranuurtajiin kuulunut Herbert Simon kuvasi päätöksentekoa heuristisena prosessina, jossa toimijat eivät optimoi täydellisen tiedon varassa vaan hyödyntävät erilaisia peukalosääntöjä, tulkintoja ja käytännöllisiä ratkaisutapoja. Se, mitä aiemmin pidettiin nimenomaan inhimillisenä arvostelukykynä, alkaa geneerisen tekoälyn myötä näyttäytyä ainakin osittain laskennallisesti mallinnettavana toimintana.

Tämä merkitsee historiallista käännettä, sillä myös harkinta, tulkinta ja poikkeuksien käsittely pyritään siirtämään algoritmisen hallinnan piiriin. Jos tekoäly kykenee toimimaan myös tilanteissa, joissa normit ovat epätäsmällisiä ja keskenään ristiriitaisia, kysymys ei enää ole vain teknisestä tehokkuudesta vaan siitä, missä määrin poliittinen harkinta ja vastuu voidaan ulkoistaa tekoälylle ilman, että itse politiikan luonne muuttuu.

Demokratian näkökulmasta yksi keskeinen tekoälyn haaste tiivistyy siihen, että sen toiminnan ymmärtäminen on vaikeaa – osittain jopa mahdotonta – myös sen kehittäjille. Neuroverkkojen toimintaa kuvataan usein “mustaksi laatikoksi”, sillä ne kykenevät tuottamaan tehokkaita ratkaisuja, mutta niiden sisäinen päättelyketju jää läpinäkymättömäksi. Tämän vuoksi tekoälyä pyritään täydentämään erilaisilla auditointi-, selitys- ja valvontamekanismeilla, joiden tarkoituksena on tehdä algoritmisesta päätöksenteosta läpinäkyvämpää ja vastuullisempaa.

Heidelberg suhtautuu kuitenkin kriittisesti ajatukseen, että tällaiset mekanismit todella palauttaisivat kontrollin ihmisille. Ennemminkin kyse on siitä, että ne vain lisäävät uusia byrokraattisia ja teknisiä kerroksia jo ennestään monimutkaisten järjestelmien ympärille.

Esimerkiksi niin sanottu ”ihminen ohjaimissa”-ajattelu (human-in-the-loop) perustuu oletukseen, että ihminen säilyttää kontrollin tekoälyn toimintaan osallistumalla päätöksentekoprosessiin.

Käytännössä ongelmana kuitenkin on, että näiden järjestelmien toimintaa ei ymmärretä riittävästi. Pahimmillaan ihmisen rooli jää symboliseksi, sillä hän toimii vastuunkantajana tilanteessa, jossa todellinen päätöksenteko tapahtuu hänen ulottumattomissaan. Samalla tilivelvollisuus muuttuu byrokraattiseksi rituaaliksi, jossa tärkeintä on osoittaa, että oikeat menettelyt on muodollisesti suoritettu.

Sairautta pahentava lääke

Heidelbergin keskeinen väite on, että tekoäly ei heikennä demokratiaa ensisijaisesti siksi, että päätöksenteko siirtyisi koneille, vaan siksi, että demokratian keskeiset arvot alkavat muuttua teknisiksi menettelytapakysymyksiksi. Kehityksen seurauksena vaarantuu kansalaisten kyky ymmärtää ja haastaa niitä järjestelmiä, joiden varaan yhteiskunnallinen päätöksenteko rakentuu.

Heidelbergin mukaan tekoäly on muuttunut iatrogeeniseksi probleemaksi, jolla hän viittaa tilanteeseen, jossa ongelman ratkaisemiseksi kehitetty hoito alkaa samalla pahentaa itse ongelmaa. Kun tekoälyä pyritään tekemään turvallisemmaksi, oikeudenmukaisemmaksi ja demokraattisesti kontrolloitavaksi, seurauksena on entistä enemmän teknisiä standardeja, auditointijärjestelmiä, dokumentaatiota, sertifiointia ja valvontaa.

Jokainen uusi kontrollikerros tuottaa lisää dataa ja uusia asiantuntijarakenteita, joiden hallinta edellyttää entistä syvempää teknistä osaamista. Samalla mahdollisuutemme ymmärtää ja arvioida järjestelmiä heikkenevät.

Demokratian nimissä rakennetaan mekanismeja, jotka etäännyttävät kansalaisia juuri niistä päätöksentekojärjestelmistä, joiden pitäisi olla heidän hallinnassaan. Läpinäkyvyys ei tällöin enää tarkoita vallankäytön ymmärrettävyyttä tavallisille kansalaisille vaan pikemminkin valtavien tietomäärien, lokitietojen ja auditointiraporttien tuottamista.

Tilivelvollisuus muuttuu suhteesta, jossa vallankäyttäjä vastaa toiminnastaan kansalaisille, kohti teknistä vaatimustenmukaisuutta eli tärkeintä on osoittaa, että järjestelmät täyttävät niille asetetut menettelytapoihin liittyvät kriteerit.

Heidelbergin analyysi ei ole pelkästään teknologiapessimistinen varoitus tekoälyn riskeistä. Heidelbergin argumentti on hienovaraisempi ja samalla häiritsevämpi. Ongelma on siinä, että samalla, kun tekoäly optimoi hallinnan logiikkaa tekemällä päätöksenteosta entistä tehokkaampaa ja ennustettavampaa, se myös etäännyttää demokratiaa kansalaisten kokemuksista, harkinnasta ja kaventaa heidän poliittista toimijuuttaan.

Keskeinen kysymys ei lopulta koskekaan vain tekoälyä vaan demokratian muuttuvaa luonnetta. Mitä tapahtuu poliittiselle vastuulle, julkiselle harkinnalle ja kansalaisten toimijuudelle yhteiskunnassa, jossa yhä useammat päätökset perustuvat järjestelmiin, joita kukaan ei täysin ymmärrä, mutta joiden toimintaa pidetään silti rationaalisempana kuin inhimillistä harkintaa?

Teksti on julkaistu alunperin Politiikasta.fi-sivustolla.