Euroopan komission opetuksen ja koulutuksen alueelle suunnatut datan ja tekoälyn eettiset ohjeet-kokonaisuus Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for Educators julkaistiin 25.10.2022.

Ohjeiden tavoitteena on lisätä ymmärrystä datan ja tekoälyn soveltamisen mahdollisuuksista oppimisessa ja opetuksessa, mutta samalla myös nostaa tietoisuutta niihin liittyvistä potentiaalisista riskeistä. Näin opettajat, kouluttajat ja suunnittelijat voivat hyödyntää täysimääräisesti tekoälyn tuomia mahdollisuuksia mutta samalla kriittisesti ja eettisesti arvioida erilaisia ratkaisuja ja toteutustapoja eri näkökulmista.

Ohjeen sisällöstä

Ethical guidelines on the use of artificial intelligence (AI) and data in teaching and learning for Educators on itse ohje-dokumentti joka on suunnattu opetus- ja koulutushenkilöstölle. Kokonaisuuden toinen osa Final report of the Commission expert group on artificial intelligence and data in education and training (a executive summary) kuvaa ohjeiden poliittista taustaa, toteutusprosessia ja keskeisiä löydöksiä, jolloin se palvelee hallintoa, poliittisia päättäjiä ja alan kehittäjiä.

Tekoälyn eettiset ohjeet-dokumentin alkuosassa kuvataan keskeiset käsitteet ja oikaistaan perustellusti tekoälyyn liittyviä väärinkäsityksiä. Tämän jälkeen kuvataan useita konkreettisia esimerkkejä miten tekoälyä on hyödynnetty koulutuksessa opiskelijan, opettajan ja tukitoimien näkökulmasta. Ohjeet myös käsittelevät eettisen ja luotettavan tekoälyn perusperiaatteita ja avaavat niitä konkreettisesti.

Tekoälyn eettisissä ohjeissa kuvataan myös laajasti esimerkkien kautta kysymyksiä joiden avulla opettajat voivat arvioida tekoälyn eettisyyttä ja luotettavuutta. Niitä käsitellään esimerkiksi adaptiivisen tekoäly-teknologian, analyysinäkymien, personoinnin, automaattisten tarkastustyökalujen, opiskelijahyväksymisien ja resurssienhallinnan sekä chatbottien kautta.

Ohjeissa on kuvattuna myös prosessinomaisesti osa-alueet joiden kautta tekoälypohjaista opetusta voisi lähteä kehittämään ja miten lisätään organisaatiossa asiaan liittyvää ymmärrystä ja sitoutumista.

Lopuksi ohjeissa kuvataan teemaan liittyviä tekoälyn eettiseen soveltamisen liittyviä osaamisia mm. ammatilliseen kehittymiseen, digitaalisiin resursseihin, oppimiseen ja opetukseen, arviontiin, oppilaiden ”voimaannuttamiseen” ja fasilitointiin kytkeytyen. Kaikki edellä mainitut osa-alueet on pilkottu pienempiin osaamisen elementteihin joihin jokaiseen kytkeytyy arviointikriteerit ja osaamisen tasoa kuvaavat esimerkit.

Tekoälyn käyttöön liittyy hyötyjen lisäksi riskejä

Kuten ohjeissa konkreettisesti ja monipuolisesti kuvataan, tekoäly tulee muuttamaan merkittävästi opetusta ja koulutusta. Toisin kuin perinteinen tietotekniikka, tekoälypohjainen ohjelmisto kykenee simuloimaan perinteisesti opettajan tekemiä rutiininomaisia työtehtäviä, kuten tarkastamaan tehtäviä, suosittelemaan oppisisältöjä tai opintopolkuja tai opastamaan opintoihin liittyvissä kysymyksissä.

Tekoälypohjainen ohjelmisto voi myös tuottaa analyysejä kuten luokituksia, ennustuksia ja malleja joista on parhaimmillaan merkittävä hyöty opiskelijoille, opettajille ja koulutuksen hallinnolle.

Tekoälyä voi käyttää väärin analysoimalla, tilastoimalla tai seuraamalla asioita joita opettajan ja koulun hallinnon ei tarvitsisi tietää. Sitä voi käyttää myös eettisten tavoitteiden vastaisesti perustamalla oppilaiden arviointia, opintoihin liittyviä päätöksiä tai luokituksia tekoälyn puutteelliseen tai vinoutuneeseen analyysiin. Ihmiset voivat tulkita väärin tekoälyn tuottamia analyysejä vaikka lähtötiedot olisivat olleet oikein.

Toisinaan voi olla, että opiskelijoilla ei ole mahdollisuutta vaikuttaa tekoälyn haitallisesti toimiviin ominaisuuksiin jolloin se haittaa eikä edistä oppimista. Eettisiä ongelmia syntyy myös tilanteissa, jossa sen tuottamia analyysejä ei kyetä perustelemaan läpinäkyvästi tai uskottavasti. Tällöin ei tiedetä miksi ja miten tekoäly ehdottaa, suosittelee tai tekee päätelmiä.

Nämä kaikki liittyvät tekoälyn eettisiin kysymyksiin ja sitä kautta opettajien ja koulutuksen suunnittelijoiden sekä IT-järjestelmistä päättävien henkilöiden digitaaliseen osaamiseen ja taitoihin.

Laaja-alaiset ohjeet ovat hyödyksi myös käytännössä

Tekoälyn eettiset ohjeet ovat konkreettinen ja käytännönläheinen dokumentti, josta on hyötyä tekoälyn käyttöönoton suunnittelussa opetuksessa ja oppimisessa. Lopputuotos on 25 henkisen työryhmän konsensus-raportti, jonka sisältöön vaikutti paljon myös palkattu alan konsultti.

Työtä voidaan luonnehtia prosessikirjoittamiseksi koska varsinkin alkuvaiheessa esiintyi hyvin paljon erilaisia mielipiteitä ja näkemyksiä sekä taustatekstejä. Vaikka aikaisemmin on julkaistu useita kansallisia tai projektipohjalta syntyneitä tekoälyn eettisiä ohjeita ja julkaisuja, mielestäni tämä julkaisu poikkeaa muista julkaisuista.

Tähän Euroopan komission julkaisemaan raporttiin onnistuttiin tuomaan käytännönläheisesti kaikki aiheeseen keskeisesti liittyvät näkökulmat aina teknologiasta erilaisiin käyttömahdollisuuksiin, tekoälyn eettisyyden ja luotettavuuden periaatteisiin ja opettajilta edellytettäviin osaamisiin asti.

Kuva: www.shutterstock.com