Siirry sisältöön
Digitaalisuus
Kasvojentunnistusteknologian eettisiä kysymyksiä

Keskustelu kasvojentunnistusteknologian ympärillä on viime aikoina suorastaan ryöpsähtänyt, kun maailmalla on ilmennyt käyttötapauksia vailla mitään eettisiä standardeja. Eevastiina Gjerstad avaa kirjoituksessaan sitä, miten tämä eettinen keskustelu liittyy Haaga-Heliaan.

Julkaistu : 29.04.2021

Kasvojentunnistusteknologiaa käytetään maailmassa muun muassa älypuhelinten lukituksen avaamisessa, lentokenttien lähtöselvityksissä ja rikollisten jäljittämisessä. Valitettavasti teknologiaa on käytetty myös osana sortotoimia, mikä nostaa esille siihen liittyvät eettiset haasteet.

Viime aikoina keskustelu on suorastaan ryöpsähtänyt, kun on ilmennyt, että kasvojentunnistusteknologiaa käytetään valvomaan Xinjiangin uiguureita, ja samaa teknologiaa kaupataan muillekin diktatuureille (Similä 2021). Yhdysvalloissa on paljastunut, että tuhannet julkisen sektorin työntekijät ovat käyttäneet Clearview Ai –yhtiön kasvojentunnistusteknologiaa vailla eettisiä standardeja (Mac ym. 2021).

Keskustelua suostumuksen käsitteestä

Nature, yksi arvostetuimpia tieteellisiä lehtiä, on selvittänyt kasvojentunnistusteknologiaan liittyviä eettisiä haasteita. Lehti teki tekoälyä, biometriikka ja kasvojentunnistusteknologiaa hyödyntäville tutkijoille kyselyn aihepiiristä sekä seurasi näiden alojen keskustelua.

Keskustelun keskiössä on suostumuksen käsite. Laajojen kuvatietokantojen kuvia on nimittäin hyödynnetty kasvojentunnistukseen ilman siinä esiintyvien ihmisen lupaa. Nature linjasikin loppuvuodesta 2019, että biometrisiin tutkimuksiin osallistuvilta on oltava selkeä, informoitu suostumus, ja samaa linjaa ovat noudattaneet useat muutkin tiedelehdet tai –kustantamot. (van Noorden 2020.)

Pelkkä suostumus ei kuitenkaan välttämättä riitä: 70 prosenttia Naturen kyselyyn vastanneista alan tutkijoista katsoi, että suostumuksesta huolimatta ei ole eettistä tehdä kasvojentunnistusta haavoittuvassa asemassa oleville ryhmille, sillä heidän antamansa suostumus ei ole välttämättä vapaasta tahdosta annettu. Tai vaikka tällainen suostumus olisikin olemassa, poliitikot voivat käyttää aineistoja ihmisoikeuksia rikkovilla tavoilla. Tutkijathan eivät automaattisesti ole ihmisoikeuksien kannalla, vaan esimerkiksi Kiinassa osa tekoälytutkijoista kannattaa itsekin sortotoimia. (van Noorden 2020.)

Taustalla oleva laajempi eettinen kysymys liittyy siihen, miten kasvojentunnistusteknologiaa voidaan käyttää siten, että sen avulla ei kontrolloida, kriminalisoida tai syrjitä ketään?

Miten kasvojentunnistusteknologian eettinen keskustelu liittyy Haaga-Heliaan?

Haaga-Helian tutkimuksissa vapaasta tahdosta annettu suostumus on tutkimusprosessiin kuuluva itsestäänselvyys. Kasvojentunnistusvideot ja niihin liittyvä data ei myöskään päädy tutkijoita pidemmälle, vaan ainoastaan anonymisoituja, yleisiä tutkimustuloksia voimme käyttää laajemmin. Omissa tutkimushankkeissani myös videoiden opetus- tai konferenssikäyttö on eettisistä syistä rajattu pois.

On eettisesti erittäin ongelmallista, jos ihmisen fyysiset piirteet tai käyttäytyminen tulkitaan ihmisen käyttäytymistä ennustavaksi siten, että häntä itseään ei kuulla eikä hänen tahtoa tai toimintaa määrittäviä motiivejaan kartoiteta (Sutrop & Laas-Mikko 2012, 22 – 23, 34).

Tutkimuksen ei tulisikaan nojautua pelkästään esimerkiksi tunnetekoälyn tuottamaan dataan. Haaga-Heliassa me suosimme monimenetelmäisyyttä, jossa tunnetekoälyn hyödyntäminen on vain yksi osa tutkimusta. Sen kautta vaikkapa vuorovaikutuksen ilmiöitä on mahdollista hahmottaa laajemmin ja validimmin.

Omissa vuorovaikutustutkimuksissani olen yhdistänyt biometrisiin, tunnetekoälyä hyödyntäviin tutkimusmenetelmiin osallistujien tunne-, dialogisuus- ja vuorovaikutuskokemuksia kartoittavia kyselyitä ja visuaalisia työkaluja, stimulated recall –tyyppisiä reflektiovideointeja sekä erilaisia vuorovaikutuksen analyyseja.

Keskustelua eettisistä periaatteista on pidettävä yllä

Teknologia laajenee helposti sen alkuperäisestä käytöstä muuhun käyttöön. Koska teknologia kehittyy nopeasti, on tärkeä jatkuvasti miettiä eettisiä kasvojentunnistukseen liittyviä kysymyksiä. Tällaisia kysymyksiä ovat mm. kasvojentunnistusteknologian todellinen, syvällinen tarve sekä keinot välttää valvonnan jatkuvaa lisääntymistä ja tutkittaville aiheutuvaa vahinkoa. (Korja 2016.)

Eettisten periaatteiden, jopa normien luominen kasvojentunnistusteknologian käyttöön on vaikeudestaan huolimatta välttämätöntä. Olemme mielellämme Haaga-Heliassa mukana tässä eettisessä keskustelussa.

Lähteet:

  • Korja, Juhani. 2016. Biometrinen tunnistaminen ja henkilötietojen suoja. Tutkimus biometristen tunnisteiden lainsäädännöllisestä asemasta. Acta Universitatis Lapponiensis 325. Akateeminen väitöskirja. Rovaniemi: Lapin yliopisto.
  • Mac, Ryan, Haskins, Caroline, Sacks, Brianna & McDonald, Logan. 2021. Surveillance Nation. BuzzFeed.News. 9.4.2021.
  • Similä, Ville. 2021. Vientituotteena valvova silmä. 24.4.2021. Helsingin Sanomat.
  • Sutrop, Margit & Laas-Mikko, Katrin. 2012. From Identity Verification to Behavior Prediction: Ethical Implications of Second Generation Biometrics. Review of Policy Research 29 (1), 21 – 36.
  • van Noorden, Richard. 2020. The Ethical Questions That Haunt Facial-Recognition Research. Nature 587 (19), 354 – 358.