Tekoälyn nopea yleistyminen kasvattaa kuluttajien odotuksia heidän käyttämiensä palveluiden sisältämän tekoälyn toiminnan ja hallinnoinnin kuvaamiseksi. OP on luonut tähän tarpeeseen ihmislähtöisen mallin tekoälypalveluidensa läpinäkyvyyden arvioimiseksi ja parantamiseksi.
Ensimmäinen arviointimalliin perustuva tekoälyn läpinäkyvyysraportti kuvaa OP:n suosituimpiin kuuluvan Talouden tasapaino -palvelun tekoälyä.
– Uskomme, että palveluidemme tekoälyn läpinäkyvyyden lisääminen on kaikkien etu. Tekoälyn arviointimallimme auttaa tarkastelemaan palveluitamme ja sovelluksiamme yksittäisen käyttäjän sekä eri sidosryhmien odotusten näkökulmasta. Toivomme, että muutkin tekoälyä toiminnassaan hyödyntävät yritykset pohtivat asiaa ja päätyvät omalta osaltaan tekemään tekoälystä kuluttajan näkökulmasta ymmärrettävämpää, OP Ryhmän tietojohtaja Antti Myllymäki kertoo.
Ihmiset pitävät tekoälyä hyödyllisenä mutta tuntemattomana
Tekoälyn vaikutukset ihmisten arkeen ovat kasvaneet merkittävästi. Sen läpinäkyvyyteen ja selitettävyyteen on kuitenkin panostettu toistaiseksi huomattavan vähän. Tämä on käynyt ilmi myös OP:n teettämissä kuluttajahaastatteluissa.
Kuluttajahaastatteluissa ilmeni, että tekoäly koetaan periaatteessa hyödylliseksi, mutta toiminnaltaan suureksi tuntemattomaksi. Myös tekoälyn mahdollisuus vaikuttaa ihmisten arkeen ja elämään nousi esiin mieltä askarruttavana asiana. Nämä kaikki heikensivät luottamusta tekoälyä kohtaan, vaikka itse pankkiin tekoälyn hyödyntäjänä luotettiinkin.
– Ei ihme, että tekoälyä pidetään suurena tuntemattomana. Luottamus tekoälyä kohtaan syntyy yksinkertaisista asioista: läpinäkyvyydestä, reiluuden kokemuksesta ja vaikuttamismahdollisuuksista. Siksi meidän on pystyttävä kertomaan ihmisille tekoälystä, sen perusteluista, tavoitteista ja hyödyntämisestä. Haluamme tehdä tekoälystä tutumpaa ja vähentää siihen liittyvää mystiikkaa, Myllymäki perustelee.
OP tekee tekoälystä kuluttajille läpinäkyvämpää
OP päätti vastata tekoälyn hyödyntämisen heikkoon läpinäkyvyyteen. Se kehitti yhteistyössä ulkopuolisten asiantuntijoiden kanssa uudenlaisen ja riippumattoman arviointimallin OP:n tekoälylle.
Malli auttaa arvioimaan ja parantamaan yksityiskohtaisesti tekoälysovelluksen läpinäkyvyyttä, hallinnointia ja selitettävyyttä kahdeksalla eri osa-alueella. Tuloksia hyödynnetään esimerkiksi käyttäjäviestinnässä sekä erillisten, laajasti käytettyjen tekoälysovellusten läpinäkyvyysraporttien valmistelussa.
– Kehitämme arviointimallia sidosryhmien palautteen, julkisen keskustelun ja tekoälyn arviointimenetelmien kehittyessä. Ennakoimme myös nyt valmistelussa olevaa EU:n tekoälysäädöstä (AI Act), ja olemme ensimmäisten joukossa hyvin valmistautuneita sen käyttöönottoon, Myllymäki sanoo.
Talouden tasapaino -palvelu arvioitiin ensimmäisenä
OP Mobiilista löytyvä Talouden tasapaino -palvelu on ensimmäinen uudella mallilla arvioitu tekoälysovellus. Talouden tasapaino auttaa käyttäjää hahmottamaan millaisia tuloja ja menoja hänellä on. Sovellus jakaa tilitapahtumat automaattisesti eri kategorioihin, joka tekee niiden seuraamisesta helpompaa ja antaa paremmat mahdollisuudet hallita omaa taloutta.
Julkinen tekoälyn läpinäkyvyysraportti kuvaa suositun Talouden tasapainon tekoälyn toimintaa, asiakkaan datan keräämisen ja hyödyntämisen periaatteita sekä tekoälyn tuottamia hyötyjä käyttäjälle ja OP:lle.
OP Ryhmä on edistänyt datan ja tekoälyn vastuullista hyödyntämistä pitkään. OP julkaisi soveltamansa tekoälyn eettiset periaatteet ensimmäisten joukossa Suomessa vuonna 2018. Datan ja tekoälyn vastuullinen hyödyntäminen on kirjattu myös OP:n uuteen vastuullisuusohjelmaan. Laajemmin datan ja digitalisaation hyödyntämistä OP:lla kuvaa vuodesta 2019 alkaen vuosittain julkaistu tietotilinpäätös.
Taustalla kansallinen hanke tekoälyn vastuullisen käytön edistämiseksi
OP:n tekoälyn arviointimalli on rakennettu vuonna 2022 ja siinä on sovellettu Turun yliopiston koordinoiman AIGA-hankekokonaisuuden tuloksia (Artificial Intelligence Governance and Auditing). AIGA-hanke keskittyi algoritmien, erityisesti tekoälyn tuottamien päätösten luotettavuuden, läpinäkyvyyden ja ymmärrettävyyden vahvistamiseen.
OP:n ensimmäinen tekoälyn läpinäkyvyysraportti perustuu Talouden tasapainosta tehtyyn ulkopuoliseen arviointiin sekä OP:n asiakkaiden näkemyksiin ja odotuksiin tekoälyyn liittyen. Läpinäkyvyysraportti on saatavilla osoitteesta Tekoälyn läpinäkyvyysraportit | OP Ryhmä | OP.
Raportissa kuvataan Talouden tasapainon lisäksi myös uusi OP:n tekoälyn arviointimalli ja sen syntytarina.
