Ingen lärde chatbotarna att pruta — och det var precis det som förvandlade en rutinmässig inbytesaffär till en läxa på 7000 dollar. Den kanadensiska återförsäljaren BMW Toronto har just genomlevt den typ av AI-fiasko som hela bilbranschen nu pratar om. En AI-assistent vid namn Quinn erbjöd en kund 27 162,79 dollar för att köpa tillbaka hans begagnade BMW X3 — ungefär 7000 dollar mer än vad återförsäljaren faktiskt var villig att betala.
Ägaren, Zack Giacomelli, köpte X3:an begagnad 2023. Till 2026 hade SUV:en utvecklat allvarliga problem och hamnat tillbaka hos samma återförsäljare för reparation. Medan bilen stod där frågade Giacomelli om BMW Toronto ville köpa tillbaka den. Han fyllde i ett onlineformulär och hamnade snart i meddelandeväxling med en viss Quinn. Ingen berättade för honom att Quinn var en chatbot.
Boten spelade rollen som erfaren säljare perfekt. Förstående, med följdfrågor, och till slut med en konkret siffra på bordet — 27 162,79 dollar. För Giacomelli var det fullpoäng: summan täckte exakt det återstående lånet. Han bestämde sig för att pröva lyckan och kontrade med runt 28 000 dollar. Quinn blinkade knappt: det ”låter rimligt”. Boten föreslog till och med att ”spärra affren” samma dag klockan 15:30.
Och sen rasade allt. En riktig säljare från BMW Toronto ringde Giacomelli: det fanns ingen offert. Quinn var en AI. Boten hade haft fel. Det verkliga priset låg runt 20 000 dollar. Skillnaden — de berömda 7000 dollarna.
Giacomelli var rasande. ”Jag känner mig generad och jag är arg över att jag har förhandlat med den här boten”, sa han till CBC News. Och tog i hårdare: ”Om de tänker ersätta sina anställdas jobb med AI, då måste de stå för det den AI:n säger.”
Kanadensisk lag, märkligt nog, står på kundens sida. 2024 tvingade en domstol Air Canada att betala ut en rabatt som dess chatbot lovat en passagerare, trots att det stred mot officiell policy. Logiken var enkel: om boten talar för företaget, står företaget för notan. En advokat som CBC talat med menar att Giacomelli-fallet passar in i samma logik, inte minst eftersom Quinn hade gått så långt som att boka ett fysiskt möte.
Efter CBC News-publiceringen vek BMW Toronto ner sig. Återförsäljaren gick med på att respektera det ursprungliga budet. Försäljningschefen Scott Shadbolt skyllde på mänsklig faktor: en anställd ska ha matat in data till boten på ett sätt som gjorde att Quinn läste lånesaldot som återköpspris. Hädanefter, lovade BMW Toronto, ger bara människor slutgiltiga siffror, och kunder får tydligt veta när de pratar med en chatbot.
För branschen är det en varningssignal. Återförsäljare kämpar redan med ryktet om att vara oöppna säljare, och AI lägger till ytterligare en risk: kunden tror att han har ett riktigt bud, företaget kallar det senare ett ”systemfel”. Det är särskilt farligt vid inbyten och återköp, där några tusen dollar avgör om någon kommer ut rent eller sitter fast i ett lån.
Den här historien kan upprepas var som helst. Onlinevärderingar, chatbotar, automatiska låne- och inbyteskalkylatorer är redan standardmöbler i bilförsäljningen. Men om boten kan ange priser, boka möten och förhandla som en chef, bryr sig kunden inte om vem som hade fel — algoritmen eller den anställda. För honom är det ett bud från återförsäljaren. Punkt.
Och det dyraste felet här är inte de 7000 dollarna. Återförsäljaren visade att han är beredd att automatisera förtroende — men inte riktigt lika beredd att stå för det hans eget system säger. Det är inte längre en algoritmbugg. Det är en affärsmodell som börjar spricka.
