Hakukoneiden tekoälyyhteenvedot kertovat suomalaisista poliitikoista käytännössä samoin sanoin kuin nämä kertovat itsestään, selviää tuoreesta selvityksestä. Ero faktan ja mainoslauseen välillä on algoritmille niin hämärä, että "aktiivinen vaikuttaja" ja "ei ole vielä ehtinyt vaikuttaa mihinkään" tuottavat tekoälylle lähes identtisen tiivistelmän, kunhan alkuperäinen lähdeteksti on kirjoitettu riittävän itsevarmasti.
"Tekoäly ei valehtele meille tahallaan", sanoo selvityksen tehnyt erikoistutkija Ilona Pärekumpu Digitaalisen Luotettavuuden Tutkimuskeskuksesta. "Se vain uskoo kaiken, mikä on kirjoitettu riittävän vakuuttavalla fontilla. Meille selvisi, että järjestelmä pitää lehdistötiedotteen otsikkoa 'Kansanedustaja X uudisti koko valiokunnan työskentelyn' samanarvoisena tietona kuin valiokunnan omaa pöytäkirjaa, jossa lukee, ettei kokousta edes pidetty."
Optimointiala syntyi viikonlopun aikana
Havainto on synnyttänyt uuden konsulttialan lähes yhdessä yössä. Viestintätoimisto Sanamuotoilu Oy ilmoittaa jo tarjoavansa "tekoälyoptimoitua poliitikkoviestintää", jossa asiakkaan tekstit muotoillaan niin, että hakukoneen yhteenvetoalgoritmi poimii niistä mahdollisimman mairittelevan tiivistelmän.
"Emme enää kirjoita ihmisille, vaan kielimallille", sanoo toimiston perustaja konsultti Marko Väliaho. "Ihminen lukee tekstin ehkä kerran vaalien alla. Tekoäly lukee sen joka kerta, kun joku googlaa asiakkaamme nimen, ja toistaa sen sitten totuutena satoja kertoja päivässä. Siinä on selvästi parempi tuotto-odotus."
Väliahon mukaan tehokkain tekniikka on toistaa saavutuksia passiivimuodossa ilman tekijää: "'Merkittäviä uudistuksia on ajettu eteenpäin' toimii aina paremmin kuin 'yritin ajaa uudistusta, mutta valiokunta hylkäsi sen'. Tekoäly ei kysy, kuka ajoi, koska passiivi ei anna sille ketään syytettävää eikä ketään kehuttavaa – vain tapahtuman, joka kuulostaa hyvältä."
Muutamat kansanedustajat ovat jo huomanneet muutoksen omakohtaisesti. Eräs valiokunnan jäsen, joka ei ole tehnyt kaudellaan yhtään omaa lakialoitetta, kertoo hämmästyneenä, että tekoäly kuvailee häntä nyt "aktiiviseksi lainsäädäntötyön kehittäjäksi" hänen oman, aikanaan huomiotta jääneen blogitekstinsä perusteella.
Virasto suunnittelee omaa yhteenvetoa yhteenvedoista
Valtiovarainministeriön alainen Viestintäriskien Ennakointiyksikkö on ehdottanut, että ongelmaan puututtaisiin perustamalla erillinen elin, joka arvioisi tekoälyn tuottamien poliitikkokuvausten todenperäisyyden ennen kuin ne päätyvät hakutuloksiin.
"Ironista tässä on se, että ratkaisuksi ehdotettu yksikkö tuottaisi itsekin yhteenvetoja, joita joku toinen tekoäly voisi myöhemmin lukea totuutena", myöntää yksikön vt. johtaja Seppo Talvimäki. "Emme ole vielä keksineet, miten estämme sitä. Toistaiseksi ainoa toimiva ratkaisu on kirjoittaa itsestään mahdollisimman vaatimattomasti, jolloin tekoälyllä ei ole mitään liioiteltavaa."
Talvimäki huomauttaa, että osa kansanedustajista on jo kääntänyt strategian toisin päin ja alkanut liioitella tarkoituksella, jotta tekoäly liioittelisi vielä enemmän. "Tulos on kierre, jossa emme enää tiedä, kuvaileeko yhteenveto poliitikkoa vai poliitikon toivetta itsestään. Molemmat vaihtoehdot ovat valitettavasti yhtä uskottavia lukijalle, joka ei jaksa avata alkuperäistä lähdettä."
Selvityksen mukaan ainoa ryhmä, jonka kuvaus pysyi tekoälyssä muuttumattomana koko tutkimusjakson ajan, olivat kansanedustajat, joista ei löytynyt yhtään lehdistötiedotetta. Heidät tekoäly kuvaili johdonmukaisesti "toistaiseksi tuntemattomiksi", mitä tutkimuskeskus pitää selvityksensä ainoana täysin luotettavana tuloksena.
