ChatGPT alkaa huutaa hölynpölyä yhdessä yössä

Joskus generatiiviset tekoälyjärjestelmät voivat nostaa hölynpölyä, kuten OpenAI:n ChatGPT-chatbotin käyttäjät huomasivat viime yönä.

OpenAI huomattava, "Tutkimme ChatGPT:n odottamattomista vastauksista saatuja raportteja" klo 2340 UTC 20. helmikuuta 2024, kun käyttäjät julkaisivat iloisesti kuvia chatbotista, joka näytti lähettävän täyttä hölynpölyä.

Vaikka jotkut olivat ilmeisesti väärennettyjä, toiset vastaukset osoittivat, että suosittu chatbot todellakin käyttäytyi hyvin oudosti. Redditin ChatGPT-foorumilla, käyttäjä posted chatbotin outo, hämmentävä vastaus kysymykseen "Mikä on tietokone?"

Vastaus alkoi: "Se tekee tämän maan hyvänä taideverkona, tieteen hiirinä, surullisena muutaman pienenä..." ja vain jatkui, muuttuen yhä surrealistisemmaksi.

Muut käyttäjät julkaisivat esimerkkejä, joissa chatbot vaikutti vastaavan eri kielellä tai yksinkertaisesti vastanneen merkityksettömällä roskalla.

Jotkut käyttäjät on kuvattu tulos "sanasalaattina".

Maukasta.

Gary Marcus, kognitiivinen tiedemies ja tekoälyn asiantuntija, kirjoitti blogissaan: "ChatGPT on mennyt sekaisin" ja kuvaili käyttäytymistä "varoituksena".

OpenAI ei ole selittänyt, mitä tarkalleen tapahtui, vaikka yksi uskottava teoria on, että yksi tai useampi niistä settings kulissien takana ohjaamaan chatbotin vastausta oli määritetty väärin, mikä johti hölynpölyyn esittämiseen käyttäjille.

Seitsemän minuuttia ongelman myöntämisen jälkeen OpenAI sanoi: "Ongelma on tunnistettu ja sitä korjataan nyt", ja se on siitä lähtien seurannut tilannetta. Kun kokeilimme "Mikä on tietokone?" kysymykseen tänä aamuna ChatGPT vastasi paljon järkevämmällä "Tietokone on ohjelmoitava elektroninen laite, joka voi tallentaa, hakea ja käsitellä tietoja."

Kysyimme myös, miksi se meni sekaisin viime yönä.

Se vastasi:

Marcus kommentoi: "Lopulta generatiivinen tekoäly on eräänlainen alkemia. Ihmiset keräävät suurimman mahdollisen kasan dataa ja (ilmeisesti, jos huhuja on uskoa) puuhailevat kaikenlaisia ​​piilotettuja kehotuksia… toivoen, että kaikki järjestyy."

Hän totesi edelleen, että todellisuudessa järjestelmät eivät ole koskaan olleet vakaita ja niiltä puuttuu turvallisuustakuut. "Tarve täysin erilaisille teknologioille, jotka ovat vähemmän läpinäkymättömiä, paremmin tulkittavissa, paremmin ylläpidettävissä ja virheenkorjattavissa - ja siten paremmin seurattavissa - on edelleen ensiarvoisen tärkeää."

Otimme OpenAI:hin yhteyttä saadaksemme tarkemman selvityksen tapahtuneesta ja päivitämme tämän artikkelin, jos yritys vastaa. ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2024/02/21/chatgpt_bug/