Miten tekoälyjärjestelmien pitäisi käyttäytyä ja kenen pitäisi päättää?

Tehtävämme toteuttamiseksi olemme sitoutuneet varmistamaan, että tekoälyn ja AGI:n käyttö, niistä hyötyminen ja vaikutusvalta on laajalle levinnyt. Uskomme, että näiden tavoitteiden saavuttamiseksi tekoälyjärjestelmän käyttäytymisen yhteydessä tarvitaan vähintään kolme rakennuspalikka.^{[^scope]}

1. Paranna oletuskäyttäytymistä. Haluamme, että mahdollisimman monet käyttäjät pitävät tekoälyjärjestelmiämme hyödyllisinä "pakkauksesta" ja kokevat, että teknologiamme ymmärtää ja kunnioittaa heidän arvojaan.

Tätä varten investoimme tutkimukseen ja suunnitteluun vähentääksemme sekä häikäiseviä että hienovaraisia ​​harhoja siinä, miten ChatGPT reagoi eri syötteisiin. Joissakin tapauksissa ChatGPT tällä hetkellä kieltää tulosteet, joita sen ei pitäisi, ja joissakin tapauksissa se ei hylkää silloin, kun sen pitäisi. Uskomme, että parannus on mahdollista molemmissa suhteissa.

Lisäksi meillä on parantamisen varaa järjestelmän käyttäytymisen muissa ulottuvuuksissa, kuten järjestelmän "kehittämisessä". Käyttäjien palaute on korvaamaton näiden parannusten tekemisessä.

2. Määritä tekoälysi arvot laajoissa rajoissa. Uskomme, että tekoälyn pitäisi olla hyödyllinen työkalu yksittäisille ihmisille ja siten jokaisen käyttäjän mukautettavissa yhteiskunnan määrittelemiin rajoihin. Siksi kehitämme ChatGPT-päivitystä, jotta käyttäjät voivat helposti mukauttaa sen toimintaa.

Tämä tarkoittaa, että sallitaan järjestelmätulosteet, joista muut ihmiset (mukaan lukien me) voivat olla vahvasti eri mieltä. Oikean tasapainon löytäminen tässä on haastavaa – räätälöinnin vieminen äärimmilleen saattaisi mahdollistaa haitallisia käyttöjä teknologiamme ja sykofanttiset tekoälyt, jotka vahvistavat mielettömästi ihmisten olemassa olevia uskomuksia.

Siksi järjestelmän käyttäytymisellä on aina joitain rajoituksia. Haasteena on määritellä, mitkä nämä rajat ovat. Jos yritämme tehdä kaikki nämä päätökset omin voimin tai jos yritämme kehittää yhden monoliittisen tekoälyjärjestelmän, epäonnistumme peruskirjassamme antamassamme sitoumuksessa "välttää vallan kohtuutonta keskittymistä".

3. Julkinen syöttö oletusasetuksista ja kovista rajoista. Yksi tapa välttää kohtuuton vallan keskittyminen on antaa ihmisille, jotka käyttävät ChatGPT:n kaltaisia ​​järjestelmiä tai joihin ne vaikuttavat, mahdollisuus vaikuttaa kyseisten järjestelmien sääntöihin.

Uskomme, että monet oletusarvoistamme ja kovista rajoistamme tehdyt päätökset tulisi tehdä kollektiivisesti, ja vaikka käytännön toteutus on haasteellista, pyrimme ottamaan mukaan mahdollisimman monta näkökulmaa. Lähtökohtana olemme hakeneet ulkopuolista panosta teknologiaamme muodossa punainen joukkue. Aloitimme myös hiljattain pyytää julkista palautetta Tekoäly koulutuksessa (yksi erityisen tärkeä konteksti, jossa teknologiaamme käytetään).

Olemme pilottivaiheessa, jotta voimme saada julkista palautetta sellaisista aiheista kuin järjestelmän käyttäytyminen, paljastamismekanismeja (kuten vesileima) ja käyttöönottokäytäntöjämme laajemmin. Tutkimme myös kumppanuuksia ulkopuolisten organisaatioiden kanssa suorittaaksemme kolmannen osapuolen tarkastuksia turvallisuus- ja politiikkatoimistamme.

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• Platoblockchain. Web3 Metaverse Intelligence. Tietoa laajennettu. Pääsy tästä.
• Lähde: https://openai.com/blog/how-should-ai-systems-behave