Air Canada refunderer brugeren, efter at dens AI-chatbot forfalskede en politik

Air Canada refunderer brugeren, efter at dens AI-chatbot forfalskede en politik

Tidsstempel: 4. marts 2024 kl. 2

En domstol i Canada har afgjort, at forbrugere, der får vildledende oplysninger fra AI-programmer, kan modtage kompensation.

Civil Resolution Tribunal of British Columbia traf afgørelsen, efter at en canadisk flyer lovede en dødsfaldsrabat fra en AI chatbot vandt en sag mod Air Canada.

Læs også: OpenAI hævder, at New York Times "hackede" ChatGPT for at udvikle en ophavsretssag 

AI chatbot fejler

Retten hørte, at Jake Moffat i november 2022 reserverede et fly med Air Canada, der havde til hensigt at rejse fra Vancouver til Toronto for at deltage i sin bedstemors begravelse.

Mens han undersøgte flyvninger, kontaktede han en AI-chatbot på flyselskabets hjemmeside og spurgte, om der kunne overvejes en medfølende billetpris, der var væsentligt lavere end almindelige flybilletter.

Chatbotten informerede Moffat om, at han kunne købe en normal billet og derefter søge en "delvis refusion" ved hjælp af Air Canadas dødsfaldspolitik inden for tre måneder, ifølge til den civile beslutning, som domstolen udstedte i februar. Han tog rådet og købte den fulde billet.

Men i forfølgelsen af ​​en tilbagebetaling på i alt $880 canadiske dollars, fik Moffat at vide af personalet hos Air Canada, at chatbotten havde givet ham "vildledende" oplysninger, og at han ikke var berettiget til en refusion.

Manden tog sagen for retten og søgte erstatning. Moffat stolede på skærmbilleder af samtalen, han havde med chatbotten, som ifølge resolutionen havde følgende som bevis:

"Air Canada tilbyder reducerede rejsepriser, hvis du skal rejse på grund af en forestående død eller et dødsfald i din nærmeste familie," sagde chatbot.

"Hvis du har brug for at rejse med det samme eller allerede har rejst og gerne vil indsende din billet til en reduceret dødsfaldssats, bedes du gøre det inden for 90 dage efter den dato, hvor din billet blev udstedt ved at udfylde vores ansøgningsformular for billettilbagebetaling."

Til sit forsvar sagde flyselskabet, at selvom AI-chatboten vildledte kunden, fulgte Moffat ikke den korrekte procedure for at anmode om billetpriser ved dødsfald og kan ikke gøre krav på dem med tilbagevirkende kraft.

Flyselskabet forsøgte endda at tage afstand fra AI og sagde, at det var en separat juridisk enhed, der var ansvarlig for sine egne handlinger. Air Canada sagde, at det "ikke kan holdes ansvarlig for oplysninger leveret af en af ​​dets agenter, tjenere eller repræsentanter, inklusive en chatbot."

Air Canada tvunget til at refundere kunder, efter at dens AI-chatbot forfalskede en politik
Air Canada under flyvning. Billedkreditering: Air Canada/X

'Stort rødt flag'

Air Canada tilbyder visse overnatningssteder, såsom reducerede priser, til passagerer, der rejser på grund af døden af ​​et nærmeste familiemedlem, ifølge sin hjemmeside.

Det siger dog til dels, at dødsfaldspolitikken ikke gælder for anmodninger om tilbagebetaling efter rejsen.

På trods af flyselskabets forsvar sagde tribunalmedlemmet Christopher C. Rivers, at selskabet var ansvarligt for at sikre, at alle oplysninger på dets hjemmeside var nøjagtige og brugbare for klienten. Den afgjorde, at Air Canada har pligt til at tage sig af brugere af sin chatbot.

Moffat blev tildelt en delvis refusion på $650 canadiske dollars [~$480], foruden skadeserstatning, renter og tribunalgebyrer.

Efterhånden som flere virksomheder anvender AI i kundeservice, er der også begyndt at stige juridiske udfordringer, ikke mindst retssagen mod ChatGPT skaberen OpenAI for angiveligt bruger ophavsretligt beskyttet materiale som bøger til at træne sin populære samtale-AI-chatbot.

Jesse Brody, partner hos New Yorks juridiske konsulentfirma Manatt, siger, at Moffat vs. Air Canada-sagen viser, at virksomheder kan holdes ansvarlige for unøjagtigheder produceret af deres AI, selvom softwaren leveres af en tredjepartsleverandør.

"Denne sag fremhæver den stigende ansvarlighed, virksomheder vil stå over for for handlingerne i deres AI-systemer, især dem, der er forbrugerorienterede," sagde Brody. rapporteret af JD Supra.

"Det faktum, at en chatbot var i stand til helt at fremstille en virksomheds tilbagebetalingspolitik, burde være et stort rødt flag for virksomheder, der er afhængige af chatbots for at give nøjagtige oplysninger om virksomhedens politikker til deres kunder," tilføjede han.

Tidsstempel:

Mere fra MetaNews