Ridurre le distorsioni e migliorare la sicurezza in DALL·E 2

Oggi stiamo implementando una nuova tecnica in modo che DALL·E generi immagini di persone che riflettono in modo più accurato la diversità della popolazione mondiale. Questa tecnica viene applicata a livello di sistema quando DALL·E riceve un prompt che descrive una persona che non specifica razza o sesso, come "vigile del fuoco".

Sulla base della nostra valutazione interna, gli utenti erano 12 volte più propensi a dire che le immagini DALL·E includevano persone di background diversi dopo l'applicazione della tecnica. Abbiamo in programma di migliorare questa tecnica nel tempo man mano che raccogliamo più dati e feedback.

Ad aprile abbiamo iniziato a presentare in anteprima la ricerca DALL·E 2 a un numero limitato di persone, che ci ha permesso di comprendere meglio le capacità e i limiti del sistema e di migliorare i nostri sistemi di sicurezza.

Durante questa fase di anteprima, i primi utenti hanno segnalato immagini sensibili e distorte che hanno aiutato a informare e valutare questa nuova mitigazione.

Stiamo continuando a ricercare in che modo i sistemi di intelligenza artificiale, come DALL·E, potrebbero riflettere i pregiudizi nei suoi dati di addestramento e diversi modi in cui possiamo affrontarli.

Durante l'anteprima della ricerca abbiamo adottato altre misure per migliorare i nostri sistemi di sicurezza, tra cui:

• Ridurre al minimo il rischio che DALL·E venga utilizzato in modo improprio per creare contenuti ingannevoli rifiutando i caricamenti di immagini contenenti volti realistici e tentando di creare la somiglianza di personaggi pubblici, comprese celebrità e personaggi politici di spicco.
• Rendere i nostri filtri dei contenuti più accurati in modo che siano più efficaci nel bloccare i prompt e i caricamenti di immagini che violano il nostro politica dei contenuti pur consentendo l'espressione creativa.
• Perfezionamento dei sistemi di monitoraggio automatizzato e umano per proteggersi da usi impropri.

Questi miglioramenti ci hanno aiutato ad acquisire fiducia nella possibilità di invitare più utenti a provare DALL·E.

L'ampliamento dell'accesso è una parte importante del nostro distribuire i sistemi di intelligenza artificiale in modo responsabile perché ci consente di saperne di più sull'uso nel mondo reale e continuare a ripetere i nostri sistemi di sicurezza.