Air Canada reembolsa usuário depois que seu AI Chatbot falsificou uma política

Um tribunal no Canadá decidiu que os consumidores que obtiverem informações enganosas de programas de IA podem receber compensação.

O Tribunal de Resolução Civil da Colúmbia Britânica tomou a decisão depois que um aviador canadense prometeu um desconto por luto por uma IA chatbot ganhou um caso contra a Air Canada.

Veja também: OpenAI afirma que o New York Times “hackeou” o ChatGPT para desenvolver um caso de direitos autorais 

Erros do chatbot de IA

O tribunal ouviu que em novembro de 2022, Jake Moffat reservou um voo com a Air Canada, com a intenção de viajar de Vancouver a Toronto para assistir ao funeral de sua avó.

Ao pesquisar voos, ele recorreu a um chatbot de IA no site da companhia aérea, perguntando se poderia ser considerada uma tarifa compassiva significativamente mais baixa do que as tarifas aéreas normais.

O chatbot informou a Moffat que ele poderia comprar uma passagem normal e depois buscar um “reembolso parcial” usando a política de luto da Air Canada dentro de três meses, segundo à resolução civil emitida pelo tribunal em fevereiro. Ele seguiu o conselho e comprou o ingresso completo.

Mas, ao buscar um reembolso totalizando US$ 880 dólares canadenses, Moffat foi informado pela equipe da Air Canada que o chatbot lhe havia fornecido informações “enganosas” e que ele não era elegível para reembolso.

O homem levou o caso à Justiça, buscando reparação. Moffat se baseou em capturas de tela da conversa que teve com o chatbot, que, segundo a resolução, traziam como prova:

“A Air Canada oferece tarifas reduzidas por luto se você precisar viajar por causa de uma morte iminente ou de um familiar imediato”, disse o chatbot.

“Se você precisa viajar imediatamente ou já viajou e gostaria de enviar sua passagem para uma taxa de luto reduzida, faça-o dentro de 90 dias a partir da data de emissão da sua passagem, preenchendo nosso formulário de solicitação de reembolso de passagem.”

Em sua defesa, a companhia aérea disse que embora o chatbot de IA tenha enganado o cliente, Moffat “não seguiu o procedimento adequado para solicitar tarifas de luto e não pode reivindicá-las retroativamente”.

A companhia aérea até tentou dissociar-se da IA, dizendo que era uma entidade legal separada responsável pelas suas próprias ações. A Air Canada disse que “não pode ser responsabilizada pelas informações fornecidas por um de seus agentes, funcionários ou representantes, incluindo um chatbot”.

'Grande bandeira vermelha'

A Air Canada oferece certas acomodações, como tarifas reduzidas, para passageiros que viajam devido ao falecimento de um familiar imediato, de acordo com seu site.

No entanto, afirma, em parte, que a política de luto não se aplica a pedidos de reembolso feitos após a viagem.

Apesar da defesa da companhia aérea, o membro do tribunal Christopher C. Rivers disse que a empresa era responsável por garantir que todas as informações no seu site fossem precisas e utilizáveis ​​para o cliente. Decidiu que a Air Canada tem o dever de cuidar dos usuários de seu chatbot.

Moffat recebeu um reembolso parcial de US$ 650 dólares canadenses [~US$ 480], além de danos, juros e taxas judiciais.

À medida que mais empresas adotam a IA no atendimento ao cliente, os desafios legais também começaram a aumentar, principalmente o processo judicial contra ChatGPT criador OpenAI para alegadamente usando material protegido por direitos autorais, como livros, para treinar seu popular chatbot de IA de conversação.

Jesse Brody, sócio da empresa de consultoria jurídica Manatt, de Nova York, diz que o caso Moffat vs. Air Canada mostra que as empresas podem ser responsabilizadas por imprecisões produzidas por sua IA, mesmo que o software seja fornecido por um fornecedor terceirizado.

“Este caso destaca a crescente responsabilidade que as empresas enfrentarão pelas ações de seus sistemas de IA, especialmente aqueles voltados para o consumidor”, disse Brody, como relatado por JD Supra.

“O fato de um chatbot ter sido capaz de fabricar inteiramente a política de reembolso de uma empresa deveria ser um grande sinal de alerta para empresas que dependem de chatbots para fornecer informações precisas sobre as políticas da empresa aos seus clientes”, acrescentou.

• Conteúdo com tecnologia de SEO e distribuição de relações públicas. Seja amplificado hoje.
• PlatoData.Network Gerativa Vertical Ai. Capacite-se. Acesse aqui.
• PlatoAiStream. Inteligência Web3. Conhecimento Amplificado. Acesse aqui.
• PlatãoESG. Carbono Tecnologia Limpa, Energia, Ambiente, Solar, Gestão de resíduos. Acesse aqui.
• PlatoHealth. Inteligência em Biotecnologia e Ensaios Clínicos. Acesse aqui.
• Fonte: https://metanews.com/air-canada-forced-to-refund-customers-after-its-ai-chatbot-faked-a-policy/