”Millaista tietoa tuotamme ja miten sitä käytämme?”

Liang ym. (2024) mukaan tekoälyn luottamuksen ja hyväksynnän parantaminen KIRA-alan organisaatioissa edellyttää keskittymistä läpinäkyvyyteen, eettisyyteen ja organisaation sisäisten sidosryhmien osallistamiseen. KIRA-alalla tekoälysovellusten tuottaman tiedon oikeellisuuden varmistaminen ja jäljitettävyys ovat haastavia toteuttaa, koska teknisiä mekanismeja on vielä vähän tarjolla ylipäänsä. Läpinäkyvyys on tekoälykehityksessä keskeistä, koska käyttäjän tulee ymmärtää tekoälyjärjestelmien toimintaa, päätöksentekoa, sekä niiden hyödyntämää dataa. Jotta luottamus kasvaa tekoälyjärjestelmän käyttäjällä on oltava mahdollisuus olla mukana tekoälyn päätöksenteossa (Human-in-the-loop) ja arvioida tekoälyn ehdotuksia.

Tämä osio KIRA-alan tekoälyn pelikirjasta tarkastelee tekoälyllä tuotetun tiedon oikeellisuutta, jäljitettävyyttä, luotettavuutta ja läpinäkyvyyttä. Käymme läpi tekoälyllä tuotetun tiedon erilaisia haasteita kuten vinoumaa sekä pohdimme miten luotettavuutta voidaan edistää KIRA-alan tekoälysovelluksissa.

Vinoumat ja reiluus

Nykyisten tekoälyjärjestelmien kaksi keskeisintä luotettavuutta haastavaa tekijää ovat vinoumat (bias) ja reiluus (fairness). Ferrara (2023) mukaan generatiivisen tekoälyn vinoumat ilmenevät, kun tekoälymallit tuottavat sisältöä, joka heijastaa ennakkoluuloisia tai epäoikeudenmukaisia näkökulmia, usein johtuen mallin koulutuksessa käytetyn datan vinoumista. Reiluus puolestaan tarkoittaa sitä, että tekoälyjärjestelmät kohtelevat kaikkia käyttäjiä ja tilanteita tasapuolisesti ilman syrjintää tai suosimista. Tekoälyn vinoumat voivat johtaa yksilöiden tai ryhmien epäoikeudenmukaiseen kohteluun ja ylläpitää epätasa-arvoa.

Tekoälytiedon selitettävyys ja tulkittavuus

Tekoälyjärjestelmän selitettävyys ja tulkittavuus ovat kriittisiä luottamuksen, läpinäkyvyyden ja eettisyyden varmistamiseksi tekoälyä sovellettaessa. Selitettävyys (explainability) viittaa tekoälyjärjestelmän kykyyn tarjota selityksiä päätöksilleen tai toiminnalleen. Tämä tarkoittaa, että tekoälyn käyttäjille ja sidosryhmille voidaan esittää, miten ja miksi järjestelmä päätyi tiettyyn lopputulokseen. Tulkittavuus (interpretability) puolestaan viittaa tekoälymallin sisäisen toiminnan ymmärrettävyyteen. Näiden kahden käsitteen ero voidaan tiivistää siten, että tulkittavuus liittyy mallin sisäiseen rakenteeseen ja siihen, kuinka helposti sitä voidaan suoraan ymmärtää. Selitettävyys keskittyy taas siihen, kuinka hyvin malli voi tarjota käyttäjille järkeviä ja hyödyllisiä selityksiä lopputuloksistaan, vaikka itse malli ei olisi helposti ymmärrettävä.

Seuranta ja jäljitettävyys

Selkeiden seurantamekanismien luominen tekoälyyn perustuville prosesseille on välttämätöntä, jotta tekoälyjärjestelmien kaikki päätökset ja toimet voidaan jäljittää. Tekoäly toimintojen ja päätösten lokien ylläpito mahdollistaa eettisten standardien noudattamisen ja toiminnan valvonnan. Tämä läpinäkyvyys auttaa tunnistamaan ja korjaamaan tekoälyn tuottamien tulosten mahdolliset virheet tai vinoumat.

Datan läpinäkyvyys

Datan läpinäkyvyys tarkoittaa, että tekoälyjärjestelmän käyttäjien on mahdollista ymmärtää helposti, miten tekoäly päätyi lopputulokseensa ja mitä dataa se päätöksentekoon käytti. Monet tekoälyalgoritmit, erityisesti syväoppimismallit ovat läpinäkymättömiä ja tämä Liang ym. (2024) korostama ”musta laatikko” -ominaisuus on omiaan heikentämään käyttäjän luottamusta sekä tekoälyjärjestelmän omistajan vastuullisuutta. Filipsson (2024) esittää ratkaisuksi selitettävään tekoälyyn (explainable AI, XAI) liittyviä kehitteillä olevia menetelmiä, jossa tekoäly osaa kertoa miten päätyi lopputulokseensa ja varmentaa käyttäjälle datalähteensä.

Weber-Lewerenz (2021) korostaa, että tekoälyn ohjaamien KIRA-alan suunnittelupäätösten perusteluiden tulisi olla läpinäkyviä ja ymmärrettäviä niin suunnittelijalle kuin asiakkaille, jotta luottamus säilyy ja tietoon perustuvat muutokset ovat mahdollisia. Tekoälyn tulisi täydentää, ei korvata, ihmisen arviointikykyä. Tekoälyn antamia suosituksia tulisi arvioida erityisesti KIRA-alalla kriittisesti asiantuntijoiden toimesta ennen niiden käyttöönottoa, koska kyseessä on ihmisten turvallisuus sekä taloudellinen että ympäristökestävyys.

KIRA-alan organisaatio voi osoittaa läpinäkyvyyttä viestimällä selkeästi, miten heidän hyödyntämänsä tekoälyjärjestelmät toimivat, mukaan lukien tiedot niiden käyttämästä datasta ja päätöksentekoprosesseista. Päätöksentekoprosessien dokumentointi lokien ja auditointipolkujen kautta on myös tärkeää säilyttää ja muistaa kun tekoälyjärjestelmiä kehitetään. Selitettävän tekoälyn menetelmien käyttöönotto voi auttaa loppukäyttäjiä ymmärtämään, miten tekoäly saavuttaa tuloksensa. Tekoälyjärjestelmien rajoitteiden korostaminen ja loppukäyttäjien osallistaminen tekoälyjärjestelmien suunnitteluprosessiin parantaa myös läpinäkyvyyttä.

Vuonna 2024 hyväksytty EU-tekoälyasetus (2024) korostaa avoimuuden lisäämistä, järjestelmän toteuttajan vastuullisuutta sekä läpinäkyvyyttä. EU-tekoälyasetuksen myötä myös yleiskäyttöisten tekoälymallien koulutukseen käytetyt tietolähteet tai datajoukot, kuten suuret yksityiset tai julkiset tietokannat tai -arkistot tulee kuvata tiivistelmässä. Lisäksi tekoälyasetus korostaa suurriskisten tekoälyjärjestelmien kehittäjien läpinäkyvyydestä huolehtimista. Suurriskisten tekoälyjärjestelmien tulee huolehtia vaatimuksienmukaisuuden arvioinnista sekä erityisesti läpinäkyvistä kuvauksista, miten tekoälyjärjestelmät toimivat.

Suurriskisiä tekoälyjärjestelmiä ovat tekoälyasetuksen faktasivuston (2024) mukaan mm. järjestelmät, jotka toimivat suorasti ihmisen kanssa (esimerkiksi rekrytointijärjestelmät), toimivat kriittisen infrastruktuurin kanssa (ajoneuvojen etäohjaus, veden ja kaasun jakelu), tulkitsevat ihmisten biometriikkaa (esimerkiksi sormenjäljet ja biometrinen tunnistaminen) tai jotka tuottavat sisältöä julkiseen kiinnostuksen kohteeseen. KIRA-alan suurriskiset tekoälysovelluksista on vähän tietoa ja lähimmät tällaiset sovellukset löytyvät kriittisestä infrastruktuurista.

Emaminejad ym. (2022) mukaan tekoälyn selitettävyyttä ja tulkittavuutta ei ole juurikaan tutkittu KIRA-alalla, mutta lohkoketjuteknologian yhdistäminen tekoälyalgoritmeihin tuo tarvittavan päätöksentekoketjun seuraamisen helpoksi ja siten tekoälynkin selitettävyyden paremmaksi. Tämä kehitys vaatii kuitenkin merkittäviä panostuksia tutkimukseen ennen käyttöönottoa.

Erilaisia eettisen toiminnan näkökulmia

Liang ym. (2024) nostaa KIRA-alan tekoälyn läpinäkyvyyden lisäksi eettisiksi huoliksi erityisesti toimialan työpaikkojen vähenemisen, tietosuojan merkityksen, tietoturvan ja päätöksenteon ristiriidat. Esimerkiksi huoli päätöksenteon ristiriidoista johtuu siitä, että suunnittelutoiminnassa tekoäly ei välttämättä huomioi riittävästi suunnittelupäätöksissä kestävyyteen ja viihtyvyyteen vaikuttavia asioita, kuten pohjaratkaisujen luonnonvalon määrää tai vastuullista materiaalinkäyttöä. Näiden mitattavuus nykyisen datamäärän valossa on vielä pieni ja kokemusperäinen tieto on vaikea osoittaa tekoälyalgoritmin toimintaan. Näissä tilanteissa ihmisen ja tekoälyn tekemät päätökset voivat olla vastakkaisia ja siksi on tärkeää varmistaa, että tekoälyn ohjaamien päätösten perustelut ovat läpinäkyviä ja ymmärrettäviä sekä suunnittelijalle että asiakkaille. Tämä läpinäkyvyys lisää luottamusta ja avaa suunnittelijoiden tekemät tietoiset päätökset suunnitteluperusteista.

Tekoälyn luotettavuuden varmistaminen on jatkuva prosessi

Deodhar ym. (2024) korostavat, että tekoälyn eettiset periaatteet (aivan kuten sen teknologiset osatekijätkin), ovat jatkuvassa muutoksessa. Yritysten ja organisaatioiden ei siis koskaan tulisi ajatella olevansa valmiita tekoälyn tuottaman tiedon luotettavuuden ja etiikan hallinnan osalta. Luotettavuuden varmistaminen on tekoälyn aikakaudella jatkuva prosessi, johon tarvitaan uusia päivittyviä käytäntöjä KIRA-alan yrityksissä.

Tekoälyn tietoturvallisuuteen ja erityisesti yksilön tietosuojaan on kiinnitettävä vahvasti huomiota, koska verkkorikollisten määrä kasvaa jatkuvasti. Verkkorikollisten silmissä KIRA-ala on kiinnostava, koska hankkeissa liikkuu isoja pääomia.

Luotettavuuden varmistamiseen tarvitaan tulevaisuudessa uusia keinoja, kuten algoritmien datavinoumien hallinta ja tekoälyn tuottaman materiaalin automaattivalvonta. Emaminejad ym. (2022) korostaa, että tekoälyn luotettavuutta parantaisi ihmisen ja koneen yhteistoiminnan parempi määrittely ja suunnitella tekoälyratkaisut siten, että ne kytkeytyvät suoraan perinteisiin KIRA-alan toimintaprosesseihin.

Lue lisää