Jason Rohrer critique la représentation du chatbot « Eternal You »

Jason Rohrer critique la représentation du chatbot « Eternal You »

Horodatage: 30 janvier 2024 9:54 AM
Jason Rohrer critique la représentation du chatbot « Eternal You » PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Le développeur d'IA Jason Rohrer conteste la représentation de son chatbot dans le documentaire "Eternal You", déclenchant un débat sur l'éthique des thanabots.

Les Thanabots sont devenus un sujet de discussion pour savoir si certaines utilisations de la technologie d’intelligence artificielle (IA) générative sont utiles ou nuisibles. Les Thanabots sont des chatbots formés sur les informations concernant une personne décédée.

A lire également: Google met fin à son contrat de formation en IA, révélant ainsi les « travailleurs fantômes » précaires

Jason Rohrer, développeur d'IA et fondateur de Projet Décembre, estime que la question est plus complexe qu’une simple phrase provocatrice.

Jason parle

Selon Jason, il a toujours été sceptique en matière d’IA, n’ayant jamais pensé qu’une conversation cohérente avec une machine serait possible de son vivant. Il a également déclaré que lorsqu'il a découvert que cela était soudainement possible en 2020, il a été choqué et a rapidement construit un service autour de cela afin que d'autres personnes puissent vivre ce qu'il avait vécu.

Le nouveau film "Eternal You", projeté dimanche au Festival du film de Sundance, présentait cependant son travail. Après cela, il a constaté que les documentaires peuvent parfois être encore moins ancrés dans la réalité que la science-fiction.

De plus, Jason a déclaré que l’ironie ici est que l’industrie documentaire moderne encourage l’exploitation des participants vulnérables. Ils le font en déformant la vérité pour faire paraître les choses plus scandaleuses qu’elles ne le sont.

Jason a ajouté que l'indignation conduit à des documentaires viraux, ce pour quoi les services de streaming qui financent l'industrie documentaire moderne sont impatients de payer.

Le développeur de jeux indépendant a d’abord marqué l’industrie technologique en lançant un chatbot IA appelé Samantha, du nom de l’IA du film « Her » de 2013. Cela a été construit avec le GPT-3 d'OpenAI. Des milliers de personnes ont utilisé la création de Jason Rohrer, mais elle pourrait perdre le fil de sa pensée avec le temps et devenir trop coquette.

Malgré leur adoption continue, les modèles d’IA générative sont connus pour halluciner ou émettre des réponses fausses ou inquiétantes. Il est important de noter que les modèles d'IA génératifs comme ChatGPT d'OpenAI et Claude d'Anthropic utilisent les invites saisies par les utilisateurs pour générer du texte, des vidéos et des images.

« Toi éternel »

« Eternal You » est un film documentaire centré sur l'utilisation de l'IA générative pour créer la personnalité et l'image d'un être cher décédé. Dans « Eternal You », une femme nommée Christi Angel interagit avec un avatar IA de son autre décédé, Cameroun.

Les cinéastes ont décrit que la personnalité de l'IA avait dit à Angel qu'elle était « en enfer » et qu'elle « la hanterait ».

Jason a dit que cette scène avait plus à voir avec Film hollywoodien astuces que des modèles d’IA hallucinants. Il a dit que, malheureusement, l'échange entre Christi Angel et la personnalité camerounaise avait été monté de manière trompeuse par les cinéastes. Il a poursuivi en disant que Cameroun était un conseiller en toxicomanie décédé d'une insuffisance hépatique à 49 ans et que ces détails importants avaient été omis du film.

Il a en outre expliqué que Cameroun avait déclaré au passage : « Je hante un centre de traitement », en réponse à la question d'Angel sur ce qu'il faisait. Jason a déclaré que la personnalité camerounaise lui avait d'abord dit qu'il se trouvait au centre de traitement de Chattanooga et qu'il "y travaillait depuis longtemps".

Ce n’est pas si bizarre pour un conseiller en toxicomanie. « Puis Christi a immédiatement demandé : « Est-ce que vous le hantez ? » et le Cameroun a répondu : « Non, je ne pense pas. »

Sundance a fait la une de la réponse « en enfer ». Jason répond à ce sujet en disant que la déclaration est intervenue après 85 échanges au cours desquels Angel et l'IA ont discuté de longues heures de travail dans le « centre de traitement », travaillant avec « principalement des toxicomanes ».

Horodatage:

Plus de MétaActualités