Jason Rohrer kritiserar "Eternal You" Chatbot-porträtteringen

Jason Rohrer kritiserar "Eternal You" Chatbot-porträtteringen

Tidsstämpel: 30 januari 2024 9:54
Jason Rohrer kritiserar "Eternal You" Chatbot-porträtteringen av PlatoBlockchain Data Intelligence. Vertikal sökning. Ai.

AI-utvecklaren Jason Rohrer ifrågasätter porträtteringen av sin chatbot i dokumentären "Eternal You", vilket väckte en debatt om thanabots etik.

Thanabots har blivit föremål för diskussion om huruvida vissa användningar av generativ artificiell intelligens (AI)-teknik är till hjälp eller skadlig. Thanabots är chatbots som tränas på information om en avliden person.

Läs också: Google avslutar AI-utbildningskontrakt och avslöjar osäkra "spökarbetare"

Jason Rohrer, en AI-utvecklare och grundare av Projekt december, tycker att frågan är mer komplex än en provocerande soundbite.

Jason talar

Enligt Jason har han alltid varit en AI-skeptiker och aldrig trott att ett sammanhållet samtal med en maskin skulle vara möjligt under hans livstid. Han sa också att när han upptäckte att detta plötsligt var möjligt 2020 blev han chockad och byggde snabbt upp en tjänst kring det så att andra människor kunde uppleva det han upplevt.

Den nya filmen "Eternal You", visades på Sundance Film Festival i söndags, innehöll hans verk. Efter det såg han att dokumentärer ibland kan vara ännu mindre verklighetsförankrade än sci-fi.

Dessutom sa Jason att ironin här är att den moderna dokumentärindustrin uppmuntrar till att utnyttja utsatta deltagare. De gör detta genom att böja sanningen för att få saker att framstå som mer upprörande än de är.

Jason tillade att upprördhet leder till virala dokumentärer, vilket är precis vad streamingtjänsterna som finansierar den moderna dokumentärindustrin är ivriga att betala för.

Den oberoende spelutvecklaren gjorde först en prägel på teknikindustrin när han lanserade en AI-chattbot som heter Samantha, uppkallad efter AI:n från 2013-filmen "Her." Detta byggdes med OpenAI:s GPT-3. Tusentals människor använde Jason Rohrers skapelse, men den kunde förlora sin tankegång med tiden och bli alltför flirtig.

Trots deras fortsatta användning är generativa AI-modeller kända för att hallucinera eller ge falska eller störande svar. Det är viktigt att generativa AI-modeller som OpenAIs ChatGPT och Anthropics Claude använder uppmaningar som användarna anger för att generera text, video och bilder.

"Evig du"

"Eternal You" är en dokumentärfilm som kretsar kring att använda generativ AI för att skapa en avliden älskad persons personlighet och likhet. I "Eternal You" interagerar en kvinna vid namn Christi Angel med en AI-avatar av sin avlidne andra, Kamerun.

Filmskaparna skildrade att AI-personligheten sa till Angel att den var "i helvetet" och skulle "hemsöka henne."

Jason sa att den här scenen hade mer att göra med Hollywood-film knep än hallucinerande AI-modeller. Han sa att, tyvärr, redigerades utbytet mellan Christi Angel och den Kamerunska personligheten vilseledande av filmskaparna. Han fortsatte med att säga att Kamerun var en missbruksrådgivare som dog av leversvikt vid 49 års ålder och att de viktiga detaljerna utelämnades från filmen.

Han förklarade dessutom att Kamerun i förbigående nämnde "Jag hemsöker ett behandlingscenter", som svar på Angels fråga om vad han gjorde. Jason sa att den kamerunska personligheten först berättade för henne att han var på behandlingscentret i Chattanooga och hade "arbetat där under en lång tid."

Detta är inte så konstigt för en beroendekurator. "Då frågade Christi omedelbart: 'Spökar du det?' och Kamerun svarade, 'Nej, jag tror inte det'.”

Sundance gjorde svaret "i helvetet" till en rubrik. Jason tar upp detta genom att säga att uttalandet kom efter 85 utbyten fram och tillbaka där Angel och AI diskuterade långa arbetsdagar i "behandlingscentret" och arbetade med "främst missbrukare".

Tidsstämpel:

Mer från MetaNews