Air Canada betaalt gebruiker terug nadat zijn AI-chatbot een beleid heeft vervalst

Een tribunaal in Canada heeft geoordeeld dat consumenten die misleidende informatie krijgen uit AI-programma’s een schadevergoeding kunnen krijgen.

Het Civil Resolution Tribunal van British Columbia deed de uitspraak nadat een Canadese flyer een rouwkorting door een AI had beloofd Chatbot won een zaak tegen Air Canada.

Lees ook: OpenAI beweert dat de New York Times ChatGPT heeft “gehackt” om een ​​auteursrechtzaak te ontwikkelen 

AI-chatbot blundert

Het tribunaal hoorde dat Jake Moffat in november 2022 een vlucht had geboekt bij Air Canada, met de bedoeling van Vancouver naar Toronto te reizen om de begrafenis van zijn grootmoeder bij te wonen.

Terwijl hij vluchten onderzocht, nam hij contact op met een AI-chatbot op de website van de luchtvaartmaatschappij en vroeg of er een meelevend tarief kon worden overwogen dat aanzienlijk lager was dan reguliere vliegtickets.

De chatbot liet Moffat weten dat hij een normaal ticket kon kopen en vervolgens binnen drie maanden een “gedeeltelijke terugbetaling” kon aanvragen via het rouwbeleid van Air Canada. volgens op de civiele resolutie die het tribunaal in februari heeft uitgevaardigd. Hij volgde het advies op en kocht het volledige kaartje.

Maar bij het nastreven van een terugbetaling van in totaal 880 Canadese dollars kreeg Moffat van het personeel van Air Canada te horen dat de chatbot hem “misleidende” informatie had gegeven en dat hij niet in aanmerking kwam voor terugbetaling.

De man stapte naar de rechter en eiste schadevergoeding. Moffat baseerde zich op screenshots van het gesprek dat hij had met de chatbot, waarop volgens de resolutie het volgende als bewijsmateriaal stond:

“Air Canada biedt lagere rouwtarieven als u moet reizen vanwege een dreigend overlijden of een overlijden in uw naaste familie”, aldus de chatbot.

“Als u onmiddellijk moet reizen of al heeft gereisd en uw ticket wilt indienen voor een verlaagd rouwtarief, doe dit dan binnen 90 dagen na de datum waarop uw ticket is uitgegeven door ons ticketrestitutieaanvraagformulier in te vullen.”

In haar verdediging zei de luchtvaartmaatschappij dat, hoewel de AI-chatbot de klant misleidde, Moffat “niet de juiste procedure volgde om rouwtarieven aan te vragen en deze niet met terugwerkende kracht kan claimen.”

De luchtvaartmaatschappij probeerde zelfs afstand te nemen van de AI en zei dat het een afzonderlijke juridische entiteit was die verantwoordelijk was voor haar eigen daden. Air Canada zei dat het “niet aansprakelijk kan worden gesteld voor informatie die wordt verstrekt door een van zijn agenten, personeelsleden of vertegenwoordigers, inclusief een chatbot.”

'Grote rode vlag'

Air Canada biedt volgens haar website bepaalde accommodaties, zoals verlaagde tarieven, aan passagiers die reizen vanwege het overlijden van een direct familielid.

Er staat echter gedeeltelijk in dat het rouwbeleid niet van toepassing is op verzoeken om restitutie die na de reis worden gedaan.

Ondanks de verdediging van de luchtvaartmaatschappij zei het tribunaallid Christopher C. Rivers dat het bedrijf verantwoordelijk was om ervoor te zorgen dat alle informatie op zijn website accuraat en bruikbaar was voor de klant. Het oordeelde dat Air Canada een zorgplicht heeft jegens gebruikers van zijn chatbot.

Moffat kreeg een gedeeltelijke terugbetaling van $650 Canadese dollar [~$480], naast schadevergoeding, rente en gerechtskosten.

Nu steeds meer bedrijven AI toepassen in de klantenservice, beginnen ook de juridische problemen zich op te stapelen, niet in de laatste plaats de rechtszaak tegen ChatGPT maker OpenAI voor naar verluidt het gebruik van auteursrechtelijk beschermd materiaal zoals boeken om de populaire conversationele AI-chatbot te trainen.

Jesse Brody, partner bij het New Yorkse juridische adviesbureau Manatt, zegt dat de zaak Moffat versus Air Canada aantoont dat bedrijven verantwoordelijk kunnen worden gehouden voor onnauwkeurigheden die door hun AI worden veroorzaakt, zelfs als de software wordt geleverd door een externe leverancier.

“Deze zaak benadrukt de toenemende verantwoordelijkheid waarmee bedrijven te maken krijgen voor de acties van hun AI-systemen, vooral die welke op de consument gericht zijn”, aldus Brody. gerapporteerd van JD Supra.

“Het feit dat een chatbot in staat was het restitutiebeleid van een bedrijf volledig te verzinnen zou een grote waarschuwing moeten zijn voor bedrijven die afhankelijk zijn van chatbots om hun klanten nauwkeurige informatie over het beleid van het bedrijf te verstrekken”, voegde hij eraan toe.

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://metanews.com/air-canada-forced-to-refund-customers-after-its-ai-chatbot-faked-a-policy/