Miten tekoälyn hyötyä mitataan?

Tekoälyn hyöty syntyy nettovaikutuksesta: ajasta, laadusta, asiakasarvosta, ihmisten työstä ja hallituista riskeistä. Näin rakennat vaikutuskortin.

Tekoälyn hyödyn mittaaminen organisaatiossa

Johtoryhmä näkee, että tekoälytyökalulla on satoja käyttäjiä. Kokeilu on saanut näkyvyyttä ja henkilöstö kertoo säästävänsä aikaa. Silti kukaan ei pysty sanomaan, vapautuiko kapasiteettia tärkeämpään työhön, paraniko laatu tai muuttuiko asiakkaan kokemus.

Käyttömäärä kertoo omaksumisesta. Liiketoimintahyöty syntyy vasta työn ja tuloksen muutoksesta.

Tekoälyn arvo on nettovaikutus: saavutettu hyöty vähennettynä tarkistamisesta, virheistä, muutoksesta, teknologiasta ja riskien hallinnasta syntyvällä työllä.

Mittaus alkaa päätöksestä, ei mittarista

Ilmaus “tekoäly tehostaa työtä” jättää avoimeksi sen, minkä pitää muuttua. Rajattu tavoite kertoo työn vaiheen, halutun muutoksen ja vaikutuksen. Asiakasviestin luonnos voi valmistua nopeammin. Palautteen luokittelu voi vaatia vähemmän käsityötä. Päätösmuistion lähteet voivat löytyä yhdenmukaisemmin.

Hyvä tavoite yhdistää kolme tasoa:

  • Työ: mikä vaihe muuttuu?
  • Toiminta: paraneeko aika, laatu tai sujuvuus?
  • Vaikutus: mitä hyötyä syntyy asiakkaalle, ihmisille tai taloudelle?

Kuusi mittaria muodostavat vaikutuskuvan

1. Lähtötaso

Mittaa nykyinen tapa ennen kokeilua. Kirjaa käsittelyaika, odotus, korjaustyö, virheet, siirrot ja työn lopputulos. Lähtötaso erottaa todellisen muutoksen jälkikäteen syntyvästä vaikutelmasta.

2. Bruttoaika

Seuraa, kuinka paljon aikaa ensimmäinen työvaihe lyhenee. Luonnoksen valmistuminen on vasta osa työstä.

3. Nettotyö

Lisää mukaan tarkistus, korjaaminen, aineiston valmistelu, työkalun käyttö ja poikkeamien käsittely. Nettosäästö kertoo vapautuneen kapasiteetin.

4. Laatu

Seuraa faktavirheitä, puuttuvia tietoja, palautuksia, yhdenmukaisuutta ja vastaanottajan arviota. Nopeus tuottaa arvoa, kun laatu säilyy tai vahvistuu.

5. Ihmis- ja asiakasvaikutus

Tarkastele työn koettua hallintaa, vaikutusmahdollisuuksia ja sitä, mihin vapautunut aika käytetään. Asiakkaan näkymässä mittari voi olla vastausaika, asian ratkeaminen, siirtojen määrä tai ymmärrettävyys.

6. Suojamittari

Seuraa tietosuoja- ja tietoturvahavaintoja, virheellisiä tuloksia, vinoumia sekä tilanteita, joissa ihmisen valvonta ei toteutunut sovitusti.

Ajansäästö ei vielä ole organisaation hyöty

Kymmenen minuuttia säästyy yksittäisessä tehtävässä. Kalenteri täyttyy silti samalla tavalla, prosessin jono säilyy ja asiakas odottaa yhtä kauan. Hyöty jäi paikalliseksi, koska työn seuraava vaihe ei muuttunut.

Tekoälyinvestointi alkaa tuottaa vasta, kun säästynyt aika muuttuu kapasiteetiksi, paremmaksi laaduksi tai asiakkaan nopeammaksi etenemiseksi.

Johto tarvitsee siksi vastauksen myös kysymykseen: mitä vapautuneella ajalla tehdään? Kapasiteetti voidaan ohjata asiakastyöhön, laadun varmistamiseen, myyntiin, oppimiseen tai ruuhkan purkamiseen.

Esimerkkilaskelma. Organisaatio käsittelee vuodessa 1 000 samanlaista tehtävää. Tekoäly lyhentää ensimmäistä työvaihetta kymmenellä minuutilla, mutta tuloksen tarkistaminen ja korjaaminen lisäävät kuusi minuuttia. Bruttosäästö on noin 167 tuntia, nettosäästö noin 67 tuntia. Jos työtunnin laskennallinen kustannus on 45 euroa, nettovaikutuksen mittaluokka on noin 3 000 euroa vuodessa ennen teknologia-, koulutus- ja käyttöönottokustannuksia. Laskelma ei kuvaa toteutunutta asiakastulosta. Se osoittaa, miksi bruttosäästöä ei pidä esittää hyötynä.

Yhden sivun vaikutuskortti

Kohta Päätettävä asia
Käyttötapaus Mitä työtä tekoäly tukee?
Lähtötaso Aika, laatu, kuormitus ja asiakastulos nyt
Johtava mittari Mikä muuttuu heti kokeilussa?
Vaikutusmittari Mikä paranee asiakkaalle, ihmisille tai taloudelle?
Suojamittari Mikä ei saa heikentyä?
Omistaja Kuka arvioi tuloksen ja päättää jatkosta?

Vertailu tekee kokeilusta päätöksentekoa

Rajaa joukko keskenään samankaltaisia työtilanteita. Mittaa nykyinen tapa ja tekoälyä hyödyntävä tapa. Rinnakkainen vertailuryhmä vahvistaa tulkintaa, jos se on käytännössä mahdollinen. Kirjaa aineiston määrä, työn vaikeus, käyttäjän kokemus ja poikkeustilanteet.

Päätä onnistumisen raja etukäteen. Esimerkiksi 20 prosentin bruttosäästö voi olla lupaava, mutta päätös perustuu nettotyöhön, laatuun ja suojamittareihin. Kokeilun tuloksena valitaan laajentaminen, korjaaminen tai hallittu lopettaminen.

Mitä tutkimus opettaa mittaamisesta?

Generatiivisen tekoälyn vaikutukset vaihtelevat tehtävän ja käyttäjän mukaan. Asiakaspalvelutyötä koskevassa laajassa kenttätutkimuksessa tekoälyavustin lisäsi tuottavuutta keskimäärin, ja suurin hyöty kohdistui vähemmän kokeneisiin työntekijöihin. Havainto ei muodosta yleistä tuottavuuslupausta. Se osoittaa, miksi organisaation pitää mitata vaikutus omassa työssä, eri käyttäjäryhmissä ja laadun rinnalla.

NISTin AI Risk Management Framework jäsentää hallinnan neljään toimintoon: govern, map, measure ja manage. Mittaaminen kuuluu käyttötavan koko elinkaareen. Hyötyä ja riskiä arvioidaan samalla päätöspöydällä.

Johtamisen vaikutusketju mittaamisessa

Havainto muuttuu yhteiseksi tulkinnaksi, päätökseksi, vastuuksi ja tekemiseksi. Mittari näyttää vaikutuksen, ja opittu muuttaa seuraavaa päätöstä. Ketju estää kokeilua jäämästä irralliseksi teknologiahavainnoksi.

Käyttökohteen valinta auttaa rajaamaan mitattavan työn. Tekoälyvalmennuksessa lähtötaso, mittarit ja kokeilu rakennetaan oman työn ympärille.

Tekoälyn käyttöönoton kokonaisuus

Tämä artikkeli kuuluu Proinnon tekoälyvalmennuksen seitsemän artikkelin kokonaisuuteen. Katso päätöstason ja soveltamistason etenemisjärjestys Tekoälyn pelisäännöt -artikkelista. Tekoälyvalmennuksessa ratkaisut rakennetaan organisaation oman työn ympärille.

Lähteet

Tutkimus

Viranomaisohjaus

  • Autio, C. ym. (2024). Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile. NIST AI 600-1. National Institute of Standards and Technology. DOI ja virallinen julkaisu.
  • Tabassi, E. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1. National Institute of Standards and Technology. DOI ja virallinen julkaisu.