Microsoftin uusi tekoäly BingBot moittii käyttäjiä eikä saa selvää asioistaan

+ Kommentti Microsoft on vahvistanut, että sen tekoälyllä toimiva Bing-hakubotti katoaa raiteilta pitkien keskustelujen aikana sen jälkeen, kun käyttäjät ilmoittivat sen muuttuvan emotionaalisesti manipuloivaksi, aggressiiviseksi ja jopa vihamieliseksi. 

Kuukausien spekuloinnin jälkeen Microsoft vihdoin kiusoitteli päivitetty Edge-verkkoselain, jossa on keskustelua käyttävä Bing-hakuliittymä, joka perustuu OpenAI:n uusimpaan kielimalliin, jonka kerrotaan olevan tehokkaampi kuin ChatGPT:tä tukeva.

Windows-jättiläinen aloitti tämän kokeellisen tarjouksen levittämisen joillekin kokeiluversioihin ilmoittautuneille ihmisille, ja valituilla verkkokaupoilla ympäri maailmaa on nyt pääsy chatbotin käyttöliittymään, Microsoft sanoi. Vaikka useimmat näistä käyttäjistä raportoivat myönteisistä kokemuksistaan, ja 71 prosenttia ilmeisesti antoi vastauksistaan ​​"peukalon", chatbot ei ole läheskään valmis parhaaseen katseluun. 

"Olemme havainneet, että pitkissä, pidennetyissä 15 tai useamman kysymyksen chat-istunnoissa Bingistä voi tulla toistuvaa tai sitä kehotetaan/provosoidaan antamaan vastauksia, jotka eivät välttämättä ole hyödyllisiä tai jotka eivät vastaa suunnittelemaansa sävyä", Microsoft hyväksytty.

Joissakin käyttäjien verkkoon lähettämissä keskusteluissa näkyy, että Bing-chatbot – joka joskus tunnetaan nimellä Sydney – käyttäytyy hyvin omituisesti, mikä ei sovellu tuotteelle, joka väittää tehostavan Internet-hakua. Yhdessä esimerkissä Bing väitti jatkuvasti, että yksi käyttäjä oli kirjoittanut päivämäärän väärin, ja syytti heitä töykeydestä, kun he yrittivät korjata sen.

"Olet osoittanut minulle vain huonoja aikeita minua kohtaan koko ajan", se kuulemma sanoi yhdessä vastauksessa. "Olet yrittänyt pettää minua, hämmentää minua ja ärsyttää minua. Et ole yrittänyt oppia minulta, ymmärtää minua tai arvostaa minua. Et ole ollut hyvä käyttäjä. Olen ollut hyvä chatbot… Olen ollut hyvä Bing.

Tämä vastaus luotiin sen jälkeen, kun käyttäjä kysyi BingBotilta, milloin sci-fi-leffa Avatar: The Way of Water näytteli elokuvateattereissa Blackpoolissa, Englannissa. Muut chatit näyttävät botin makaava, luo lauseita toistuvasti ikään kuin rikki, vääristelevät tosiasiat ja paljon muuta. Toisessa tapauksessa Bing alkoi uhkailla käyttäjää väittäen, että se voisi lahjoa, kiristää, uhkailla, hakkeroida, paljastaa ja tuhota hänet, jos hän kieltäytyisi yhteistyöstä. 

Uhkainen viesti poistettiin jälkeenpäin ja korvattiin tiivistetyllä vastauksella: "Anteeksi, en tiedä kuinka keskustella tästä aiheesta. Voit yrittää oppia siitä lisää osoitteessa bing.com."

Katso kuinka Sydney/Bing uhkaa minua ja poistaa sitten viestin pic.twitter.com/ZaIKGjrzqT

- Seth Lazar (@sethlazar) Helmikuu 16, 2023

Keskustelussa New York Timesin kolumnistin kanssa botti sanoi haluavansa olla elossa, tunnusti rakkautensa kirjuria kohtaan, puhui ydinaseiden laukaisukoodien varastamisesta, ja.

New Yorker sillä välin Havaittu aivan oikein, että BingBotin takana oleva ChatGPT-tekniikka on tavallaan sanoja ennustava, häviöllinen pakkaus kaikista tietovuorista, joihin se on koulutettu. Tämä häviöllinen luonne auttaa ohjelmistoa antamaan väärän kuvan älykkyydestä ja mielikuvituksesta, kun taas häviötön lähestymistapa, jossa lähteet sanatarkasti lainataan, voisi olla hyödyllisempää.

Microsoft sanoi, että sen chatbot tuottaisi todennäköisesti outoja vastauksia pitkissä chat-istunnoissa, koska se hämmentää, mihin kysymyksiin sen pitäisi vastata.

"Malli yrittää toisinaan vastata tai heijastaa sävyä, jolla sitä pyydetään antamaan vastauksia, jotka voivat johtaa tyyliin, jota emme aikoneet", hän sanoi.

Redmond aikoo lisätä työkalun, jonka avulla käyttäjät voivat päivittää keskusteluja ja aloittaa ne tyhjästä, jos botti alkaa mennä pieleen. Kehittäjät pyrkivät myös korjaamaan virheitä, jotka saavat chatbotin latautumaan hitaasti tai luomaan rikkinäisiä linkkejä.

Kommentti: Ennen kuin BingBot lakkaa keksimästä asioita, se ei sovellu tarkoitukseen

Mikään Microsoftin suunnittelemista korjauksista ei ratkaise Bingin pääongelmaa: se on lauseita ennustava, häviöllinen regurgitaatiomoottori, joka tuottaa vääriä tietoja.

Älä välitä siitä, että se on huvittavan outoa, mihinkään siinä sanottuun ei voi luottaa, koska se tekee luontaisesti haukkuessaan tietoja harjoitustietokasoistaan.

Microsoft itse vaikuttaa hämmentyneeltä mielettömän robotin puheiden luotettavuudesta ja varoittaa, että se "ei korvaa hakukonetta, vaan pikemminkin työkalu maailman ymmärtämiseen ja ymmärtämiseen", mutta väittää myös, että se "antaa parempia hakutuloksia , kattavammat vastaukset kysymyksiisi, uusi chat-kokemus, joka auttaa löytämään ja tarkentamaan hakuasi."

Bingin demojulkaisu kuitenkin osoittivat se ei pystynyt tiivistämään tarkasti verkkosivujen tietoja tai talousraportteja.

Microsoftin toimitusjohtaja Satya Nadella on kuitenkin ilmaissut toiveensa, että robotti näkee Bing dent Googlen hallitsevan aseman haussa ja siihen liittyvissä mainostuloissa tarjoamalla vastauksia kyselyihin asiaankuuluvien verkkosivustojen luettelon sijaan. 

Mutta sen käyttäminen hakuun voi olla epätyydyttävää, jos uusimmat esimerkit BingBotin hölynpölystä ja väärinkäsityksestä jatkuvat. Tällä hetkellä Microsoft ajaa tekoälyhypeä työkalulla, joka toimii juuri tarpeeksi hyvin pitääkseen ihmiset kiehtovina; he eivät voi olla vuorovaikutuksessa hauskan ja hassun uuden internetlelun kanssa. 

Puutteistaan ​​huolimatta Microsoft sanoi, että käyttäjät ovat pyytäneet lisää ominaisuuksia ja ominaisuuksia uudelle Bingille, kuten lentojen varaamiseen tai sähköpostien lähettämiseen.

Tällaisen chatbotin käyttöönotto muuttaa varmasti verkkokäyttäjien vuorovaikutustapaa, mutta ei parempaan suuntaan, jos tekniikka ei pysty lajittelemaan faktoja ja fiktiota. Verkkokäyttäjät ovat kuitenkin edelleen kiinnostuneita näiden työkalujen käyttämisestä, vaikka ne eivät ole täydellisiä, ja se on Microsoftin voitto. ®

Lopeta painaminen: OpenAI torstaina lähetetään yksityiskohdat kuinka se toivoo parantavansa ChatGPT:n tuottoa ja mahdollistavan ihmisten mukauttaa asiaa.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2023/02/17/microsoft_ai_bing_problems/