Miksi tekoäly valehtelee? Näin huomaat keksityt tiedot ajoissa

Miksi tekoäly antaa vääriä vastauksia?

Tekoäly antaa vääriä vastauksia, koska kielimalli tuottaa todennäköisen kuuloista tekstiä eikä tarkistettua tietoa. Ellei sillä ole käytössään hakua tai sille annettua aineistoa, se ei hae vastausta mistään vaan kokoaa sen sanoista, jotka sopivat yhteen aiemmin nähdyn tekstin kanssa. Kun tieto puuttuu tai on epävarmaa, malli täyttää aukon jollain, mikä kuulostaa oikealta.

Tästä syystä virhe ja oikea vastaus näyttävät samalta. Mallin sävy ei muutu epävarmaksi silloin, kun se arvaa. Se kirjoittaa keksityn pykälänumeron yhtä sujuvasti kuin oikean.

Useimmiten vastaukset ovat silti hyviä, ja juuri se tekee virheistä vaarallisia. Kun kymmenen vastausta on ollut oikein, yhdettätoista ei enää tarkisteta.

Mitä hallusinaatio tarkoittaa?

Hallusinaatio tarkoittaa tilannetta, jossa tekoäly esittää tosiasiana tietoa, joka on virheellistä tai kokonaan keksittyä. Tyypillisiä hallusinaatioita ovat olemattomat lähteet, väärät luvut, keksityt lainaukset, sekoitetut nimet ja lakiviittaukset, joita ei ole olemassa.

Sana on hieman harhaanjohtava, koska se kuulostaa harvinaiselta häiriöltä. Käytännössä hallusinaatio on saman ominaisuuden sivutuote, joka tekee tekoälystä hyödyllisen: kyvyn tuottaa sujuvaa ja uskottavaa tekstiä mistä tahansa aiheesta.

Julkisuudessa on ollut useita tapauksia, joissa juristit ovat jättäneet tuomioistuimelle asiakirjoja, joihin tekoäly oli keksinyt olemattomia oikeustapauksia. Asiakirjat näyttivät oikeilta, ja viittaukset olivat oikeassa muodossa. Tapauksia ei vain ollut koskaan ollut.

Valehteleeko tekoäly tahallaan?

Ei valehtele. Valehteleminen edellyttää, että tietää totuuden ja kertoo tietoisesti jotain muuta. Kielimalli ei tiedä, milloin sen vastaus on väärä, eikä sillä ole tarkoitusta johtaa harhaan.

Käyttäjän kannalta ero on silti pieni. Jos lähetät asiakkaalle väärän toimitusehdon, ei ole merkitystä, keksittiinkö se tahallaan vai ei. Vastuu on sinulla.

Hyödyllisempi tapa ajatella on pitää tekoälyä nopeana ja taitavana harjoittelijana, joka sanoo harvoin "en tiedä", ellei sitä erikseen pyydetä. Sen työ on arvokasta, mutta sitä ei lähetetä eteenpäin lukematta.

Neljä tapaa, joilla virhe syntyy

Virheet eivät synny sattumanvaraisesti. Useimmat niistä kuuluvat johonkin näistä ryhmistä:

• Aukko tiedossa. Kysyt asiasta, josta mallilla ei ole tietoa, esimerkiksi pienen paikallisen toimijan käytännöstä. Malli vastaa silti ja täyttää aukon yleisellä arvauksella.
• Vanhentunut tieto. Mallin tiedot ulottuvat tiettyyn ajankohtaan asti. Muuttunut verokanta, uusi laki tai uusi hinnasto ei näy vastauksessa, ellei työkalu hae tietoa verkosta.
• Sekoittaminen. Kaksi samankaltaista lakia, kaksi maata tai kaksi tuotetta menevät sekaisin. Suomalaiseen kysymykseen voi tulla vastaus, joka pätee Ruotsissa tai Yhdysvalloissa.
• Laskeminen ja lukeminen. Pitkässä laskussa välivaihe menee väärin, tai pitkästä asiakirjasta jää huomaamatta poikkeus, joka muuttaa koko tulkinnan.

Kun tunnet ryhmät, tiedät myös, mistä virheitä kannattaa etsiä. Paikallinen, tuore, samankaltainen ja laskettu tieto ovat ne kohdat, joissa tarkistuksella on eniten merkitystä.

Miksi virhettä on vaikea huomata

Tekoälyn virhe on harvoin ilmeinen. Se on yleensä yksi väärä yksityiskohta muuten oikeassa tekstissä: oikea laki mutta väärä pykälä, oikea laskutapa mutta väärä luku, oikea sopimustyyppi mutta väärä irtisanomisaika.

Lisäksi yksityiskohdat lisäävät uskottavuutta. Vastaus, jossa on tarkka päivämäärä, pykälä ja prosenttiluku, tuntuu luotettavammalta kuin yleinen vastaus, vaikka juuri tarkat yksityiskohdat ovat niitä, jotka pitää tarkistaa.

Kolmas syy on kiire. Tekoälyä käytetään, koska halutaan säästää aikaa, ja tarkistaminen tuntuu vievän säästön. Siksi tarkistus kannattaa kohdistaa vain niihin kohtiin, joissa virhe maksaa.

Missä tehtävissä virheet ovat vaarallisimpia?

Vaarallisimpia ovat tehtävät, joissa virhe lähtee yrityksen ulkopuolelle tai johtaa suoraan rahaan tai oikeudellisiin seurauksiin: sopimukset, hinnat ja laskelmat, lait ja viranomaisvelvoitteet, asiakkaille lähtevät viestit sekä ohjeet, jotka koskevat turvallisuutta tai terveyttä.

Vähäriskisiä ovat tehtävät, joissa virhe huomataan heti tai sillä ei ole seurauksia: ideointi, otsikkovaihtoehdot, oman tekstin kielenhuolto ja luonnos, jonka luet joka tapauksessa läpi. Niissä tekoälyn voi antaa tehdä paljon vapaammin.

Hyvä nyrkkisääntö on kysyä ennen käyttöä: jos tässä on virhe, kuka sen huomaa ja paljonko se maksaa? Jos vastaus on asiakas ja paljon, tarkistus on pakollinen.

Sopimukset: pieni sana, iso ero

Sopimuksissa tekoälyä käytetään kahteen asiaan: pitkän sopimuksen tiivistämiseen ja sopimustekstin luonnosteluun. Kummassakin virhe on yleensä yksi sana tai yksi puuttuva ehto.

Tiivistelmässä vaarallisinta on se, mitä jää pois. Rakennusliike pyytää tiivistelmää aliurakkasopimuksesta, ja tiivistelmä kertoo hinnan, aikataulun ja laajuuden oikein. Siitä puuttuu kuitenkin ehto, jonka mukaan viivästyksestä maksetaan sopimussakkoa jokaiselta alkavalta viikolta. Tiivistelmä ei ole väärä, mutta se on vaarallisen vajaa.

Luonnoksessa riski on keksityissä ehdoissa. Malli voi kirjoittaa sopimukseen irtisanomisajan, vastuunrajoituksen tai lakiviittauksen, joka kuulostaa tavanomaiselta mutta ei sovi tilanteeseesi tai ei vastaa Suomen lakia.

Käytä tekoälyä sopimuksissa lukemisen apuna, älä lukemisen korvikkeena. Kysy siltä esimerkiksi, mitkä ehdot koskevat irtisanomista, ja lue ne kohdat itse alkuperäisestä tekstistä.

Luvut ja laskelmat

Luvuissa virhe syntyy kolmella tavalla: malli laskee väärin, lukee luvun väärin aineistosta tai sekoittaa perusteet, kuten arvonlisäverollisen ja verottoman hinnan. Kaikki kolme näyttävät tekstissä täsmälleen yhtä uskottavilta kuin oikea laskelma.

Tyypillinen tilanne on tarjous. Pyydät tekoälyä kokoamaan tarjouksen tuntihinnasta, materiaaleista ja matkakuluista, ja lopputulos näyttää siistiltä. Yksi rivi on kuitenkin laskettu verottomana ja toinen verollisena, ja loppusumma on väärin juuri sen verran, ettei sitä huomaa silmämääräisesti.

Sääntö on yksinkertainen: jokainen luku, joka lähtee asiakkaalle tai johon perustat päätöksen, lasketaan uudelleen taulukkolaskennassa tai laskimella. Tekoäly saa ehdottaa rakenteen, mutta laskun tarkistaa ihminen. Valmis tarjouspohja vähentää tätä riskiä, koska laskukaavat pysyvät samoina joka kerta.

Lait ja viranomaisten ohjeet

Lakikysymyksissä tekoäly tekee kolmenlaisia virheitä. Se keksii pykäliä tai viittaa lakiin, jota ei ole. Se antaa toisen maan säännön, esimerkiksi siksi, että muiden maiden aineistoa on ollut sen käytössä enemmän. Ja se kertoo säännön, joka on sittemmin muuttunut.

Kysymykseen siitä, kuinka pitkä koeaika työsopimuksessa voi olla, malli voi vastata luvulla, joka on oikea jossain muussa maassa tai joka oli oikein ennen lain muutosta. Vastauksessa ei ole mitään, mistä sen huomaisi.

Siksi lakiin tai viranomaisohjeeseen perustuva tieto tarkistetaan aina alkuperäisestä lähteestä. Lait löytyvät Finlexistä ja verotusta koskevat ohjeet Verohallinnon sivuilta. Jos asia on merkittävä, kysy asiantuntijalta. Tekoäly voi auttaa löytämään oikean kysymyksen, mutta vastaus tarkistetaan muualta.

Asiakkaalle lähtevät sähköpostit

Sähköposteissa tekoäly säästää eniten aikaa ja tuottaa helpoimmin virheen, joka päätyy suoraan asiakkaalle. Vastausluonnos on kohtelias ja sujuva, ja juuri siksi se lähetetään helposti lukematta tarkasti.

Tavallisimmat virheet ovat lupauksia. Luonnos lupaa toimituksen ensi viikolla, hyvityksen, josta ei ole sovittu, tai ominaisuuden, jota tuotteessa ei ole. Malli kirjoittaa sen, mikä asiakaspalvelussa on tyypillistä, eikä sitä, mitä sinun yrityksesi voi tehdä.

Toinen yleinen virhe on sekoittaminen. Jos luonnos tehdään pitkästä viestiketjusta, nimet, päivämäärät ja tilausnumerot voivat mennä ristiin. Asiakas, joka saa viestin väärällä nimellä tai toisen asiakkaan tilaustiedoilla, ei enää luota muuhunkaan.

Lue siksi jokainen tekoälyn luonnostelema viesti kuin se olisi sinun lupauksesi, koska se on. Tarkista erityisesti nimet, päivämäärät, summat ja kaikki lauseet, jotka alkavat sanoilla "voimme", "lupaamme" tai "hyvitämme". Muista myös, että asiakkaan viestiketjun liittäminen tekoälytyökaluun on henkilötietojen käsittelyä, johon pätevät samat tietosuojan säännöt kuin muuhunkin käsittelyyn.

Miten tekoälyn vastaukset tarkistetaan nopeasti?

Tekoälyn vastaukset tarkistetaan nopeasti kohdistamalla tarkistus riskikohtiin: lukuihin, nimiin, päivämääriin, lakiviittauksiin ja lupauksiin. Koko tekstiä ei tarvitse käydä läpi sana sanalta, mutta nämä kohdat tarkistetaan aina alkuperäisestä lähteestä.

Tarkistukseen kuluu yleensä muutama minuutti, ja se on pieni hinta verrattuna aikaan, jonka tekoäly säästi. Jos tarkistus veisi kauemmin kuin tehtävän tekeminen itse, tehtävä ei sovellu tekoälylle.

Pyydä lähde, mutta tarkista, että lähde sanoo saman

Monet tekoälytyökalut osaavat hakea tietoa verkosta ja näyttää lähteensä. Se on iso parannus, mutta ei takuu. Linkki voi johtaa oikealle sivulle, jolla ei silti lue sitä, mitä vastaus väittää, tai sivu voi olla vanhentunut.

Tarkistus on nopea. Avaa lähde, etsi sivulta vastauksen keskeinen väite ja lue se asiayhteydessään. Jos väitettä ei löydy, vastaus on tarkistamaton riippumatta siitä, kuinka monta linkkiä sen perässä oli.

Jos työkalu ei anna lähdettä lakiin, hintaan tai määräaikaan liittyvälle väitteelle, käsittele väitettä arvauksena. Se voi olla oikein, mutta sen varaan ei rakenneta mitään ennen kuin se on tarkistettu.

Varoitusmerkit vastauksessa

Osa vastauksista kannattaa tarkistaa erityisen huolellisesti jo niiden muodon perusteella. Näistä merkeistä tunnistaa kohdat, joissa keksiminen on todennäköisintä:

• Tarkat luvut ilman lähdettä. Prosentit, euromäärät ja määräajat, joiden alkuperää ei kerrota.
• Pykälät ja lainaukset. Pykälänumerot, sanatarkat lainaukset ja oikeustapausten nimet.
• Nimettömät auktoriteetit. Sanamuodot kuten "tutkimusten mukaan" tai "asiantuntijat suosittelevat" ilman nimettyä tutkimusta tai asiantuntijaa.
• Täydellinen vastaus kapeaan kysymykseen. Mitä harvinaisempi aihe, sitä epäilyttävämpi on sujuva ja yksityiskohtainen vastaus.
• Vastaus, joka muuttuu. Kun kysyt saman uudestaan uudessa keskustelussa ja saat eri luvun, kumpaankaan ei voi luottaa.

Mikään merkki ei todista vastausta vääräksi. Ne kertovat, mihin kannattaa käyttää ne muutama minuutti.

Miten virheitä vähennetään ohjeilla ja lähteillä?

Virheitä vähennetään antamalla tekoälylle aineisto itse, rajaamalla vastaukset siihen aineistoon ja sallimalla vastaus "ei löydy". Kun malli vastaa liittämäsi sopimuksen, hinnaston tai ohjeen perusteella eikä yleistiedosta, keksimisen tila pienenee selvästi.

Toinen keino on pyytää perustelu näkyviin. Kun pyydät mallia lainaamaan sanatarkasti sen kohdan, johon vastaus perustuu, voit tarkistaa lainauksen alkuperäisestä hakutoiminnolla muutamassa sekunnissa. Jos lainausta ei löydy, vastaus hylätään.

Kolmas keino on kertoa tilanne. Kerro, että kyse on suomalaisesta yrityksestä, Suomen laista ja tämänhetkisestä tilanteesta. Kerro myös, mitä et halua: arvauksia, esimerkkejä muista maista tai lupauksia, joita et ole antanut.

Neljäs keino on pilkkoa tehtävä. Pyydä ensin poimimaan luvut aineistosta, tarkista ne ja pyydä vasta sitten kirjoittamaan niistä teksti. Yhdessä pitkässä tehtävässä virhe piiloutuu, vaiheittain tehtynä se näkyy. Verkkosivuilla asiakkaille vastaavan chatbotin kohdalla sama periaate toteutetaan tietopohjana, ja se on kuvattu erikseen artikkelissa chatbotin tietopohjasta.

Esimerkki ohjeesta, joka vähentää keksimistä

Toistuviin tehtäviin kannattaa kirjoittaa valmis ohje, jota käytetään joka kerta. Sopimuksen läpikäyntiin sopii esimerkiksi tällainen ohje:

Vastaa vain alla olevan sopimustekstin perusteella. Jos tieto ei löydy tekstistä, kirjoita: ei löydy sopimuksesta. Lainaa jokaisen vastauksen perään sanatarkasti se kohta, johon vastaus perustuu. Sopimukseen sovelletaan Suomen lakia. Älä täydennä tietoja yleisestä käytännöstä.

Sama rakenne toimii muissakin tehtävissä. Hinnaston perusteella kirjoitettavan tarjouksen ohjeessa voi sanoa, että hinnat otetaan vain liitetystä hinnastosta ja että puuttuva hinta merkitään selvästi puuttuvaksi. Asiakasviestin ohjeessa voi sanoa, ettei viestiin kirjoiteta lupauksia aikatauluista tai hyvityksistä.

Valmis ohje säästää aikaa ja tasaa laatua, koska kaikki käyttävät samoja rajauksia. Se on myös hyvä pohja, kun tekoälyn käyttöä opetetaan henkilökunnalle, koska tekoälykoulutus toimii parhaiten yrityksen omilla tehtävillä.

Työnjako: mitä tekoäly tekee ja mitä ihminen

Tekoäly on vahva luonnostelussa, jäsentämisessä, kielen muokkaamisessa ja oman aineiston tiivistämisessä. Ihminen vastaa tiedoista, päätöksistä ja siitä, mikä lähtee ulos. Kun työnjako on selvä, tekoälystä saa hyödyn ilman, että virheet pääsevät asiakkaalle asti.

Yrityksessä kannattaa sopia muutamasta asiasta: missä tehtävissä tekoälyä saa käyttää, mitkä kohdat tarkistetaan aina ja kuka tarkistaa. Samalla sovitaan, mitä tietoja työkaluun ei syötetä lainkaan. Ohjeeksi riittää yksi sivu, kunhan kaikki tietävät, missä se on.

Eri työkalujen erot ja se, mikä niistä sopii yrityksen muihin ohjelmiin, on käsitelty vertailussa ChatGPT, Copilot vai Gemini yritykselle.

Yhteenveto

Tekoäly keksii asioita, koska se tuottaa todennäköistä tekstiä eikä tarkistettua tietoa. Se ei valehtele tahallaan, mutta virhe näyttää samalta kuin oikea vastaus, ja siksi sen huomaaminen jää käyttäjälle.

Vaarallisimmat virheet syntyvät sopimuksissa, luvuissa, lakiviittauksissa ja asiakkaille lähtevissä viesteissä. Niissä tarkistetaan aina luvut, nimet, päivämäärät, pykälät ja lupaukset alkuperäisestä lähteestä, ja lähteen kohdalla varmistetaan, että se todella sanoo saman.

Keksimistä vähennetään antamalla aineisto itse, rajaamalla vastaukset siihen, pyytämällä lainaukset näkyviin ja sallimalla vastaus "ei löydy". Silloin tekoäly tekee sen, missä se on hyvä, ja ihminen sen, mistä hän vastaa.