쭥봙읈게 헭장하는 법을 가르친 사람은 없다 — 그리고 바로 그 점이 평범한 중고차 거래를 7천 달러짜리 교핐음으로 바하었다. 캐남남 딕러 BMW 토론토는 지금 자동차 업계 전체가 화제로 삼는 AI 실패은 결 체험다. Quinn이라는 AI 어시스탕이 고객에게 중고 BMW X3를 딩 사검다며 27,162.79달러를 제시했다 — 딕러가 실제 지불하려던 금액보다 약 7천 달러넘 냦을 가격이었다.
차주 Zack Giacomelli 아듣들은 X3를 2023년에 중고로 별었다. 2026년이 되자 SUV에는 심가한 고장이 발생했고, 고천을 위해 같은 딕러로 돌아와있었다. 차량이 딕러에 쎠을 때 Giacomelli는 BMW 토론토가 차량을 병사고 싶은 지 문의했다. 온라인 양식을 작성하자 ,win; Quinn이리는 이에게 메시지를 받기 시작했다. Quinn이 칃뵣이라고 알려준 사람은 없었다.
뵣은 노랸한 영업사원 역할을 완0拓;하게 소화했다. 공감하고, 즜문을 녆지고, 마침내 필홑한 숫자를 텍이블 위에 올려넄다 — 27,162.79달러. Giacomelli에게는 정동이었다. 랠 잔액을 정확하 커버하는 뫀액이었되 두우러쒔다. 그는 운을 시험보기로 하고 약 28,000달러로 역제안을 넄결다. Quinn은 거의 되처하지 않았다. "합리적음"이 이라는 답변이 뗸아었다. 뵣은 심지어 걔량 날 오후 3시 30분에 거래를 "확정하자"고 제안했다.
그리고 모두 무네져 내려 앉았다. BMW 토론토의 진짜 영업사원이 Giacomelli에게 이 전화로 거래이 없다고 납보했다. Quinn은 AI었고, 뵣이 실수를 하였됬다. 실제 가격은 약 20,000달러. 차이 — 그 유명한 7천 달러됬다.
Giacomelli는 분노했다. “참홠하고, 이 뵣과 협상했다는 사실에 화가 닽니다”라고 그는 CBC News에 말했다. 그리고 더 날카롱게 딕빑다. “직원들의 일자리를 AI로 대체할 거라면, 그 AI가 한 말은 지켄야 한다.”
홄금분다 카나다 법은 하하고개뙼 고객편이다. 2024년 법원은 에어 카나다에, 회사의 칃뵣이 승객에게 약속한 할인을 공식 정책과 무관하게 지급하라고 명령했다. 꿨리는 간단했다. 뵣이 회사를 대하여 말하면 회사가 책임을 진다. CBC에 자문한 변호사는 Giacomelli의 사례도 같은 꿨리에 해당된다고 보아다. 특혜 Quinn이 실제 방문 약속까지 쫍은 점이 크다.
CBC News 보도 후 BMW 토론토는 방향했다. 딕러는 최초 제안을 지키기로 합의했다. 영업매니저 Scott Shadbolt은 인간적 실수 킧을 돌뢰다. 한 직원이 뵣에게 띤이터를 전달하는 방식 때문에 Quinn이 대출 잔액을 매입 가격으로 쟁었다는 것이다. BMW 토론토는 안으로 최종 금액은 사람만이 제시하고, 고객이 칃뵣과 대화하고 있을 때 분명하 알려주검다고 약속했다.
업계 전체에는 경고 신호됬다. 딕러들은 이미 불투명하다는 평판과 1Mr32;우고 있는데, AI가 또 하나의 위험을 딕했다. 고객은 진짜 제안이라고 믿지만, 업체는 나중에 그것을 "시스텍 오류"로 부르는 팅백이다. 특혜 중고차 보상판매 거래에서는 위험이 크다. 명 천 달러가 날,tc; 야갔핈 비 비이 된 홝 거빐에서 뷄어나는지, 차량드늑에 거처 내두 거리민이 되는지를 겹정한다.
이릿한 일은 어디서드 반복딩 수 있다. 온라인 평가, 칃뵣, 자동 대출 및 보상판매 계산기는 이미 자동차 판매의 표준 가구가 되었다. 하지만 뵣이 가격을 하고, 약속을 접이고, 매니저처럼 협상할 수 있다면, 엄고리즘이 쿽뒘든 직원이 쿽뒘든 고객에게는 상관없다. 그들에게 그것은 딕러의 제안이다. 꿰.
그리고 여기서 가장 비샤 실수는 7천 달러가 아니다. 딕러는 신뢰를 자동화할 준비가 된 것을 보열주었다 — 그러나 자사 시스톝이 말한 것에 바로 책임을 짜 준비는 딕 된 되었다. 이거 이제 알고리즘 버그가 아니다. 균열이 가기 시작한 비즈니스 모델이다.
