Harhaisuuden vähentäminen ja turvallisuuden parantaminen DALL·E 2:ssa

Tänään otamme käyttöön uutta tekniikkaa, jotta DALL·E luo ihmisistä kuvia, jotka kuvastavat tarkemmin maailman väestön monimuotoisuutta. Tätä tekniikkaa käytetään järjestelmätasolla, kun DALL·E:lle annetaan kehote, joka kuvaa henkilöä, joka ei ilmoita rotua tai sukupuolta, kuten "palomies".

Sisäisen arviomme perusteella käyttäjät sanoivat 12 kertaa todennäköisemmin, että DALL·E-kuvissa oli eritaustaisia ​​ihmisiä tekniikan käytön jälkeen. Aiomme parantaa tätä tekniikkaa ajan myötä, kun keräämme enemmän tietoa ja palautetta.

Huhtikuussa aloitimme DALL·E 2 -tutkimuksen esikatselun rajoitetulle joukolle ihmisiä, mikä on auttanut meitä ymmärtämään paremmin järjestelmän ominaisuuksia ja rajoituksia sekä parantamaan turvajärjestelmiämme.

Tämän esikatseluvaiheen aikana varhaiset käyttäjät ovat ilmoittaneet arkaluontoisista ja puolueellisista kuvista, jotka ovat auttaneet tiedottamaan ja arvioimaan tätä uutta lieventämistä.

Jatkamme tutkimusta, kuinka tekoälyjärjestelmät, kuten DALL·E, voivat heijastaa harhaa harjoitustiedoissaan ja eri tavoilla käsitellä niitä.

Tutkimuksen esikatselun aikana olemme ryhtyneet muihin toimenpiteisiin parantaaksemme turvallisuusjärjestelmiämme, mukaan lukien:

• Minimoimme riskin, että DALL·E:tä käytetään väärin petollisen sisällön luomiseen hylkäämällä kuvien lataukset, jotka sisältävät realistisia kasvoja ja yrittävät luoda julkisuuden henkilöiden, kuten julkkisten ja merkittävien poliittisten henkilöiden, kaltaisia.
• Teemme sisältösuodattimistamme tarkempia, jotta ne estävät tehokkaammin kehotteita ja kuvalatauksia, jotka rikkovat sisältöpolitiikka sallien silti luovan ilmaisun.
• Automaattisten ja ihmisten valvontajärjestelmien jalostaminen väärinkäytöltä suojautumiseksi.

Nämä parannukset ovat auttaneet meitä luottamaan siihen, että voimme kutsua useampia käyttäjiä kokemaan DALL·E:tä.

Käyttömahdollisuuksien laajentaminen on tärkeä osa toimintaamme ottaa tekoälyjärjestelmiä käyttöön vastuullisesti koska sen avulla voimme oppia lisää todellisesta käytöstä ja jatkaa turvajärjestelmien toistamista.