BMW-jälleenmyyjä antoi tekoälyn neuvotella — lasku tuli salamana
Quinn-niminen chatbot teki tarjouksen, joka kuulosti sitovalta. Kauppias yritti perua. Sitten lakimiehet astuivat kuvaan.
Kukaan ei opettanut chatboteille tinkimistä — ja juuri se muutti tavallisen autonvaihtokaupan 7 000 dollarin oppitunniksi. Kanadalainen jälleenmyyjä BMW Toronto eli juuri sen tyyppisen tekoälykatastrofin, josta nyt puhuu koko autoala. Quinn-niminen tekoälyavustaja tarjosi asiakkaalle 27 162,79 dollaria tämän käytetystä BMW X3:sta — noin 7 000 dollaria enemmän kuin liike oli valmis maksamaan.
Omistaja Zack Giacomelli osti X3:n käytettynä vuonna 2023. Vuonna 2026 SUV:ssa oli ilmennyt vakavia ongelmia ja se oli palannut samaan liikkeeseen korjaukseen. Auton ollessa siellä Giacomelli kysyi, ostaisiko BMW Toronto sen takaisin. Hän täytti verkkolomakkeen ja huomasi pian kirjoittavansa viestejä jonkun Quinnin kanssa. Kukaan ei kertonut hänelle, että Quinn oli chatbot.
Botti hoiti kokeneen myyjän roolin täydellisesti. Myötätuntoinen, kysymyksiä esittävä ja lopulta konkreettisella summalla — 27 162,79 dollaria. Giacomellille se oli täysosuma: summa kattoi tarkalleen jäljellä olevan lainan. Hän päätti käyttää tilannetta hyväkseen ja vastatarjosi noin 28 000 dollaria. Quinn ei juuri räpäyttänyt silmäänsä: se ”kuulostaa järkevältä”. Botti jopa ehdotti, että kauppa ”lukitaan” samana päivänä klo 15.30.
Ja sitten kaikki romahti. BMW Toronton oikea myyjä soitti Giacomellille: mitään tarjousta ei ole. Quinn oli tekoäly. Botti oli erehtynyt. Todellinen hinta on noin 20 000 dollaria. Erotus — ne kuuluisat 7 000 dollaria.
Giacomelli oli raivoissaan. ”Minua hävettää ja minua suututtaa, että neuvottelin tämän botin kanssa”, hän sanoi CBC Newsille. Ja löi kovempaa: ”Jos he aikovat korvata työntekijöidensä työt tekoälyllä, niin heidän on noudatettava sitä, mitä se tekoäly sanoo.”
Kanadan laki sattuu olemaan asiakkaan puolella. Vuonna 2024 tuomioistuin määräsi Air Canadan maksamaan alennuksen, jonka sen chatbot oli luvannut matkustajalle vastoin yhtiön virallista linjaa. Logiikka oli yksinkertainen: jos botti puhuu yhtiön puolesta, yhtiö on vastuussa. CBCn haastattelema lakimies näkee Giacomellin tapauksen samassa logiikassa, etenkin koska Quinn ehti sopia konkreettisen tapaamisajan.
CBC Newsin jutun jälkeen BMW Toronto luovutti. Liike suostui kunnioittamaan alkuperäistä tarjousta. Myyntipäällikkö Scott Shadbolt vieritti syyn inhimilliselle erehdykselle: työntekijä oli kuulemma syöttänyt botille tiedot niin, että Quinn luki lainan saldon ostohinnaksi. Jatkossa, lupasi BMW Toronto, lopulliset hinnat antavat vain ihmiset, ja asiakkaille kerrotaan selvästi, milloin he puhuvat chatbotin kanssa.
Alalle tämä on var dispenser. Jälleenmyyjät käyvät jo taistelua maineesta läpinäkymättöminä myyjinä, ja tekoäly tuo vielä yhden riskin lisää: asiakas luulee saaneensa oikean tarjouksen, yritys kutsuu sitä myöhemmin ”järjestelmävirheeksi”. Erityisen vaarallista tämä on vaihto- ja takaisinostokaupoissa, joissa muutama tuhat dollaria ratkaisee, pääseekö ihminen puhtaalta pöydältä vai jääkö lainan ansaan.
Tällainen tarina voi toistua missä tahansa. Verkkoarviot, chatbotit, automaattiset laina- ja vaihtolaskurit ovat jo autokaupan vakiokalustoa. Mutta jos botti voi heittää hintoja, sopia tapaamisia ja neuvotella kuin päällikkö, asiakkaalle on yhdentekevää, kuka erehtyi — algoritmi vai työntekijä. Hänelle se on tarjous jälleenmyyjältä. Piste.
Ja kallein virhe tässä ei ole ne 7 000 dollaria. Jälleenmyyjä näytti olevansa valmis automatisoimaan luottamuksen — mutta ei aivan yhtä valmis seisomaan sen takana, mitä sen oma järjestelmä sanoo. Tämä ei ole enää algoritmin bugi. Tämä on liiketoimintamalli, joka alkaa rakoilla.