Reduzierung von Bias und Verbesserung der Sicherheit in DALL·E 2

Heute implementieren wir eine neue Technik, damit DALL·E Bilder von Menschen erzeugt, die die Vielfalt der Weltbevölkerung besser widerspiegeln. Diese Technik wird auf Systemebene angewendet, wenn DALL·E eine Eingabeaufforderung erhält, die eine Person beschreibt, die weder Rasse noch Geschlecht angibt, z. B. „Feuerwehrmann“.

Basierend auf unserer internen Bewertung war die Wahrscheinlichkeit, dass die DALL·E-Bilder Menschen mit unterschiedlichem Hintergrund enthielten, nach der Anwendung der Technik 12-mal höher. Wir planen, diese Technik im Laufe der Zeit zu verbessern, wenn wir mehr Daten und Feedback sammeln.

Im April haben wir damit begonnen, einer begrenzten Anzahl von Personen eine Vorschau der DALL·E 2-Forschung zu zeigen, was es uns ermöglicht hat, die Fähigkeiten und Grenzen des Systems besser zu verstehen und unsere Sicherheitssysteme zu verbessern.

Während dieser Vorschauphase haben frühe Benutzer sensible und voreingenommene Bilder gekennzeichnet, die dazu beigetragen haben, diese neue Minderung zu informieren und zu bewerten.

Wir erforschen weiterhin, wie KI-Systeme wie DALL·E Verzerrungen in ihren Trainingsdaten widerspiegeln und wie wir sie angehen können.

Während der Forschungsvorschau haben wir weitere Schritte unternommen, um unsere Sicherheitssysteme zu verbessern, darunter:

• Minimierung des Risikos, dass DALL·E missbraucht wird, um irreführende Inhalte zu erstellen, indem Bild-Uploads mit realistischen Gesichtern und Versuche, das Abbild von Persönlichkeiten des öffentlichen Lebens, einschließlich Prominenten und prominenten Politikern, zu erzeugen, abgelehnt werden.
• Präzisere Inhaltsfilter, damit sie Eingabeaufforderungen und Bild-Uploads, die gegen unsere Richtlinien verstoßen, effektiver blockieren Inhaltsrichtlinie und gleichzeitig kreativen Ausdruck zulässt.
• Verfeinerung automatisierter und menschlicher Überwachungssysteme zum Schutz vor Missbrauch.

Diese Verbesserungen haben uns geholfen, Vertrauen in die Fähigkeit zu gewinnen, mehr Benutzer einzuladen, DALL·E zu erleben.

Die Erweiterung des Zugangs ist ein wichtiger Teil unserer KI-Systeme verantwortungsvoll einsetzen weil es uns ermöglicht, mehr über den Einsatz in der realen Welt zu erfahren und unsere Sicherheitssysteme weiter zu verbessern.