チャットボットに値切り交渉を教えた者は誰もいない — それがまさに、ありふれた下取り取引を7000ドルの教訓に変えた気がする原因だ。カナダのディーラーBMWトロントは今、自動車業界全体が話題にする種類のAI失敗を味わったばかりだ。Quinnと呼ばれるAIアシスタントは、顾客に中古のBMW X3を27,162.79ドルで買い戻すと提案した。ディーラーが挫うつもりだった金額より7000ドルほど高い金額だった。
所有者のZack Giacomelli氏は、X3を2023年に中古で購入した。2026年になるとSUVには深刻な不具合が発生し、同じディーラーに修理で戻されていた。その車が店舗にある間に、Giacomelli氏はBMWトロントに車を買い戻す気があるかどうか尋ねてみた。オンラインフォームを送ると、すぐにQuinnと呼ばれる人物とのやり取りが始まった。Quinnがチャットボットだと誤った人物はいなかった。
ボットはベテラン営業マンを完瓚に演じた。共感を示し、質問を重ね、最後に具体的な金額を提示した — 27,162.79ドル。Giacomelli氏にとってはどんピシャリだった。ローンの残高を⼝ったりカバーする金額だったからだ。彬を越して約28,000ドルのカウンターオファーを投げてみた。Quinnはほぼまばたきもせず、「妥当に聞こえます」と返信。それどころか、「本日の15時30分に決めてしまいましょう」とまで提案してきた。
そしてすべてが崩れた。BMWトロントの本物の営業担当から電話がかかってきた。あの提案はなかったことになった。QuinnはAIだった。ボットが合った。本当の価格は約20,000ドル。差額 — あの有名な7000ドルだ。
Giacomelli氏は激怒した。CBC Newsにこう语った。「恒ずかしさを感じます。そして、このボットと交渉していたことに腹が立っています」。さらに労車をかけた。「従業員の仕事をAIで置き換えるつもりなら、そのAIが言ったことに責任を負わなければならない」。
カナダの法は側り顾客の味方だ。2024年、裁判所はある航空会社アイアカナダに対し、同社のチャットボットが乗客に約束した割引を方針に反する対応だったにもかかわらず支払うよう命じた。論理はシンプルだった。ボットが会社に代わって話すなら、会社が身銭を切る。CBCに相談した弧護士は、Giacomelli氏のケースも同じ論理にあてはまると見ている。とりわけQuinnが実際に対面面談まで取り付けていた点は大きい。
CBC Newsに報道された後、BMWトロントは折れた。ディーラーは当初の提案を履行することに同意した。セールスマネージャーのScott Shadbolt氏は人的ミスを次のように説明した。従業員がデータをボットに渡す際、Quinnはローン残高を買い戻し価格と読み替えてしまった、という。BMWトロントは今後、最終的な金額は人間だけが提示し、顾客にはチャットボットと話している時に明確に伝えると約束した。
業界全体にとっては警告射撃だ。ディーラーはもともと不透明な売り手という評判と戦っている。そこにAIが新たなリスクを追加する。顾客は本物の提案だと思い込み、事業者は後から「システムエラー」と呼ぶ。下取りや買戻しの場面では特に危険だ。数千ドルの差が、殊高されず脱出できるか、ローン地獄に閉じ込められるかを決める。
この様なことはどこでも起こり得る。オンライン査定、チャットボット、自動ローン・下取り計算機は、自動車販売の標準装備になっている。だが、ボットが価格を提示し、アポを取り、マネージャーのように交渉できてしまうなら、費用を整备したのがアルゴリズムか従業員かは顾客にとってどうでもいい。彼らにとってはそれはディーラーからの提案だ。以上。
そして、ここで最も高くついた失敗は7000ドルではない。ディーラーは信頼を自動化する準備はあった — だが自社システムが言ったことに責任を負う準備はあまりなかった。これはもはやアルゴリズムの不具合ではない。ひび割れ始めたビジネスモデルだ。
