에어캐나다, AI 챗봇이 정책을 위조한 후 사용자에게 환불

팔로워 : 0

캐나다 법원이 인공지능(AI) 프로그램에서 잘못된 정보를 얻은 소비자는 보상을 받을 수 있다고 판결했다.

브리티시 컬럼비아 민사 해결 재판소는 캐나다 전단이 AI에 의해 사별 할인을 약속한 후 판결을 내렸습니다. 채팅 봇 에어캐나다를 상대로 소송에서 승소했습니다.

AI 챗봇이 실수하다

재판소는 2022년 XNUMX월 제이크 모팻(Jake Moffat)이 할머니의 장례식에 참석하기 위해 밴쿠버에서 토론토로 여행할 계획으로 에어캐나다 항공편을 예약했다는 소식을 들었습니다.

그는 항공편을 검색하던 중 항공사 홈페이지의 AI 챗봇에 연락해 일반 항공료보다 훨씬 낮은 배려 운임을 고려할 수 있는지 물었다.

챗봇은 모팻에게 일반 항공권을 구매한 뒤 3개월 이내에 에어캐나다의 사별 정책을 이용해 '부분 환불'을 요청할 수 있다고 알렸다. 따라 지난 2월 법원이 발표한 민사결의안. 그는 조언을 듣고 전체 티켓을 구입했습니다.

그러나 총 880달러(캐나다 달러)의 환불을 추구하던 중 Moffat는 Air Canada 직원으로부터 챗봇이 그에게 "오해의 소지가 있는" 정보를 제공했기 때문에 환불을 받을 수 없다는 말을 들었습니다.

그 남자는 그 문제를 법원에 가져가서 시정을 요청했습니다. Moffat는 결의안에 따라 다음과 같은 증거를 담은 챗봇과의 대화 스크린샷에 의존했습니다.

챗봇은 “에어캐나다는 임박한 사망이나 직계 가족의 사망으로 인해 여행해야 하는 경우 할인된 사별 요금을 제공합니다”라고 말했습니다.

"즉시 여행해야 하거나 이미 여행했으며 사별률을 낮추기 위해 항공권을 제출하고 싶다면 항공권이 발행된 날로부터 90일 이내에 항공권 환불 신청서를 작성하여 제출해 주시기 바랍니다."

항공사는 AI 챗봇이 고객을 오도했지만 모팻은 "장례비를 요청하는 적절한 절차를 따르지 않았으며 소급 청구할 수 없다"고 주장했다.

항공사는 AI가 자신의 행동에 책임이 있는 별도의 법인이라며 스스로를 AI로부터 분리시키려고 시도하기도 했습니다. 에어캐나다는 “챗봇을 포함해 대리인, 직원, 대표자가 제공한 정보에 대해 책임을 질 수 없다”고 밝혔다.

에어캐나다 웹사이트에 따르면, 직계 가족의 사망으로 인해 여행하는 승객에게 요금 할인 등 특정 편의를 제공합니다.

그러나 여행 후 환불 요청에는 사별 정책이 적용되지 않는다고 부분적으로 명시되어 있습니다.

항공사의 변호에도 불구하고 재판소의 크리스토퍼 C. 리버스(Christopher C. Rivers) 위원은 회사가 웹사이트의 모든 정보가 정확하고 고객이 사용할 수 있도록 보장할 책임이 있다고 말했습니다. 에어캐나다가 챗봇 사용자를 주의할 의무가 있다고 판결했습니다.

Moffat는 손해 배상금, 이자 및 재판소 비용 외에 캐나다 달러 650달러(~$480)를 부분적으로 환불 받았습니다.

더 많은 기업이 고객 서비스에 AI를 도입함에 따라 법적 문제도 증가하기 시작했습니다. 특히 소송이 제기되기 시작했습니다. ChatGPT OpenAI를 위한 창시자 주장한 바에 의하면 책과 같은 저작권이 있는 자료를 사용하여 인기 있는 대화형 AI 챗봇을 훈련합니다.

뉴욕 법률 컨설팅 회사인 Manatt의 파트너인 Jesse Brody는 Moffat 대 Air Canada 사건은 소프트웨어가 제3자 공급업체에서 제공되더라도 AI가 생성한 부정확성에 대해 기업이 책임을 져야 할 수 있음을 보여준다고 말했습니다.

Brody는 "이번 사례는 기업이 AI 시스템의 행동, 특히 소비자를 대면하는 시스템의 행동에 대해 직면하게 될 책임이 증가하고 있음을 강조합니다."라고 말했습니다. 신고 JD 수프라.

그는 “챗봇이 회사의 환불 정책을 완전히 조작할 수 있었다는 사실은 고객에게 회사 정책에 대한 정확한 정보를 제공하기 위해 챗봇에 의존하는 회사에게는 큰 위험 신호가 되어야 합니다”라고 덧붙였습니다.

타임 스탬프 : 25년 2023월 XNUMX일