Näin disinformaatio leviää LLM-groomauksen kautta

Viime vuosina suuret kielimallit (LLM), kuten ChatGPT, Gemini ja Claude, ovat nousseet merkittäviksi työkaluiksi tiedonhaussa, kirjoittamisessa ja jopa päätöksenteon tukena. Kielellinen kyvykkyys ja yleishyödyllisyys tekevät niistä houkuttelevia paitsi tavallisille kuluttajille myös niille, joilla ei ole puhtaat jauhot pussissa. Huoli on todellinen. Kielimalleja on jo nyt pyritty käyttämään vaikuttamistarkoituksiin (Faktabaari 2025; McKenzie & Isis 2025).

Tekoäly voi neuvoa, kirjoittaa ja selittää – mutta entä jos se alkaa valehdella? LLM-groomaus on nouseva ilmiö, jossa kielimalleja manipuloidaan toistamaan propagandaa. Kehityksellä voi olla vakavia seurauksia demokratialle ja tiedon luotettavuudelle.

LLM-groomaus on kielimallin manipulointia

Niin kutsuttu LLM-groomaus on nouseva ilmiö, jossa uhrin sijaan pyritään manipuloimaan kielimallia, jotta se tarjoaisi vääristeltyjä näkökulmia eli disinformaatiota. Tämä tapahtuu syöttämällä sille tarkoituksellisesti vinoutunutta, vääristelevää tai harhaanjohtavaa sisältöä joko käyttöliittymän kautta tapahtuvan syötteen manipulaation muodossa tai syvemmällä tasolla osana sen koulutusaineiston vääristämistä. (ASP 2025.)

Tavoitteena on saada malli toistamaan tietyntyyppisiä viestejä, maailmankuvia tai jopa propagandistisia väitteitä, jotka saattavat alkujaan olla hyvin marginaalisia, mutta saada sitten uskottavuutta tekoälyn välityksellä. Pohjoismaisen faktantarkastajaverkosto EDMO NORDISin tekemän selvityksen mukaan venäläinen propaganda on jo nyt soluttautunut suuriin kielimalleihin lähteinä käytettyjen Pravda-verkoston kautta (Faktabaari 2025).

Bulletin of the Atomic Scientistissa julkaistun tutkimuksen mukaan verkoston lonkerot ulottuvat 182 eri verkkotunnukseen, ja sen toiminta kohdistuu 74 maahan jopa 12 eri kielellä. Pravda-verkoston arvioidaan tuottavan vuosittain vähintään 3,6 miljoonaa Venäjä-myönteistä artikkelia, jotka vaikuttavat myös kielimallien toimintaan. (Newport & Jankowicz 2025.)

Syötteen manipulaatio pähkinänkuoressa

Syötemanipulaatio kuulostaa paljon monimutkaisemmalta kuin se todellisuudessa on. Käytännössä kyse on toiminnasta, jossa käyttäjä antaa kielimallille ohjeita, jotka pyrkivät ohittamaan sen sisäänrakennetut suodattimet tai turvamekanismit. Yksinkertaisimmillaan tämä tapahtuu niin, että disinformaatio naamioidaan osaksi muuta kommunikaatiota tai ohjeet annetaan epäsuorasti, jolloin mallin sisäiset filtterit eivät tunnista sisältöä haitalliseksi.

Esimerkiksi jos mallia pyydetään kirjoittamaan teksti perustuen ainoastaan tiettyihin, epärelevantteihiin tai harhaanjohtaviin lähteisiin, se saattaa alkaa toistamaan virheellisiä väitteitä kritiikittömästi. Kun toimintaan valjastetaan kokonainen bottiarmeija, niin kielimallin käyttämä data saastuu ja harhaanjohtavien väitteiden näennäinen luotettavuus mallin silmissä kasvaa. Tämä voi johtaa väärän tiedon systemaattiseen vahvistumiseen ja leviämiseen.

Toisaalta tätäkin huolestuttavampaa on kielimallien koulutusaineistojen manipulointi (eng. data poisoning), jossa malliin pyritään vaikuttamaan jo ennen sen kouluttamista julkaisemalla verkkoon suuria määriä sisältöjä, jotka esittävät valheita faktoina. Monet kielimallit oppivat ainakin osittain avoimista verkkolähteistä, jolloin väärä tieto voi kulkeutua huomaamatta osaksi niiden sisäistä ’maailmankuvaa’ (esim. Carlini et al. 2023; Qiang et al. 2024; Zhou et al. 2025).

Poisoning Web-Scale Training Datasets is Practical -tutkimus osoitti kokeellisesti, että tällainen vaikuttaminen ja kielimallien harjoitusdatan saastuttaminen ei ole pelkästään mahdollista, mutta myös yllättävän helppoa ja edullista. Jopa 60 dollarin budjetti riitti hyökkäyksen tekemiseen, kun se käytetään vanhentuneiden verkkotunnusten ostamiseen (Carlini et al. 2023). Tämä tekee manipuloinnista realistisen uhan ja paljastaa vakavia heikkouksia nykyisissä datankeruuprosesseissa.

On siis täysin mahdollista, että tekoäly alkaa toistamaan disinformaatiota neutraalin asiantuntijan äänellä – ilman että käyttäjä osaa epäillä mitään.

Miten turvautua vaikuttamisyrityksiltä

LLM-groomaus kytkeytyy läheisesti tekoälyn haavoittuvuuteen ja sen luonteeseen tilastollisena kielimallina. Vaikka malli ei ymmärrä maailmaa ihmisen tavoin, se tuottaa vastauksia ennustamalla tilastollisesti todennäköisimpiä sanayhdistelmiä. Tässä piilee myös sen akilleen kantapää: jos harhaanjohtavaa tietoa esiintyy toistuvasti mallin koulutusaineistossa tai sitä esitetään johdonmukaisesti vakuuttavassa muodossa, malli ei kykene erottamaan sitä luotettavasta tiedosta.

Disinformaatiolta on kuitenkin mahdollista suojautua. Yrityksen näkökulmasta keskeisiä keinoja ovat koulutusdatan valvominen ja sen laadun varmistaminen sekä vastauksien reaaliaikainen valvominen erilaisilla suodattimilla (Carlini et al. 2023; OWASP 2023). Lisäksi mallien tulisi aina kertoa, mihin lähteisiin ne perustavat väitteensä. Jäljitettävyys ja auditointi auttavat tunnistamaan manipulointia jälkikäteen.

Käyttäjän näkökulmasta laki on hänen suojanaan, mutta se ei estä vaikuttamisyrityksiä. Medialukutaito on avainasemassa, jotta käyttäjä kykenee arvioimaan tekoälyn tarjoamia lähteitä ja vastauksia kriittisesti. Myös promptaamisen opettelusta ja hallitsemisesta on hyötyä virheellisten väittämien arvioinnissa. Tärkeintä on, että käyttäjä muistaa kysyä erikseen, mihin lähteisiin tekoäly perustaa väittämänsä, ja miten se on tullut kyseiseen johtopäätökseen. Käyttäjän on itse kyettävä arvioimaan lähteiden luotettavuutta.

Demokratia ja yhteiskunnallinen luottamus

Tekoälyn saastumisen vaikutukset voivat olla dramaattiset. Esimerkiksi ChatGPT:llä on lähes 800 miljoonaa kuukausittaista käyttäjää (Nolan 2025). Jos se alkaa toistamaan salaliittoteorioita, kyseenalaistaa vaalituloksia tai esittää rokotevastaisia väitteitä uskottavana tietona, niin vaikutus yhteiskunnalliseen luottamukseen ja päätöksentekoon voi olla mittava. Erityisen ongelmallista tämä on siksi, että huomattava osa kielimallien käyttäjistä ei tarkista tekoälyltä saamaansa tietoa muista lähteistä (esim. Jacob et al. 2025; Si et al. 2023).

Tutkimukset ovat myös osoittaneet, että ihmiset ovat taipuvaisia yliarvioimaan kielimallien asiantuntemusta, joka näkyy erityisesti silloin, kun vastaus on sujuvasti ja vakuuttavasti muotoiltu (Zou et al. 2023; Ovide 2025). Lisäksi ne ovat koulutettu tuottamaan kieltä tavalla, joka saa ne vaikuttamaan empaattisilta, hyväksyviltä ja kuuntelevilta, joka saa käyttäjän kokemaan syvää luottamusta, vaikka kyse on simuloidusta ymmärryksestä (Ennis-O’Connor 2024).

Edellä mainituista syistä kysymys LLM-groomauksesta ei ole vain tekninen, vaan se on syvästi yhteiskunnallinen kysymys. Jos tekoälyä voidaan manipuloida ihmisen tapaan, mutta paljon ihmistä nopeammin ja laajemmassa mittakaavassa, niin meillä on edessämme täysin uudenlainen informaatiovaikuttamisen aikakausi. Tämä kehitys haastaa kaikki perinteiset käsityksemme siitä, miten tieto leviää ja miten mielipiteitä muokataan.

Haasteeseen ei ole yksinkertaisia ratkaisuja. Kielimallien on kyettävä tunnistamaan ja torjumaan haitallisia syötteitä säilyttäen samalla hyödyllisyytensä. Liian tiukka suodatus voi estää tehdä kielimalleista hyödyttömiä. Euroopan unionin regulaation lisäksi avainasemaan voi nousta läpinäkyvyys. Käyttäjät on saatava ymmärtämään, millä perusteilla kielimallit tekevät päätöksiä ja miten ne käsittelevät erilaisia pyyntöjä.

Kuva: Haaga-Helia/ Kuulu.fi