오늘날 우리는 DALL·E가 세계 인구의 다양성을 보다 정확하게 반영하는 사람들의 이미지를 생성할 수 있도록 새로운 기술을 구현하고 있습니다. 이 기술은 DALL·E에 "소방관"과 같이 인종이나 성별을 지정하지 않은 사람을 설명하는 프롬프트가 표시될 때 시스템 수준에서 적용됩니다.
내부 평가에 따르면 DALL·E 이미지에 기술을 적용한 후 다양한 배경을 가진 사람들이 포함되어 있다고 말할 가능성이 12배 더 높았습니다. 우리는 더 많은 데이터와 피드백을 수집함에 따라 시간이 지남에 따라 이 기술을 개선할 계획입니다.
CEO의 사진
생성
2월에 제한된 수의 사람들에게 DALL·E XNUMX 연구를 미리 보기 시작하여 시스템의 기능과 한계를 더 잘 이해하고 안전 시스템을 개선할 수 있었습니다.
이 미리 보기 단계에서 초기 사용자는 이 새로운 완화를 알리고 평가하는 데 도움이 되는 민감하고 편향된 이미지에 플래그를 지정했습니다.
우리는 DALL·E와 같은 AI 시스템이 교육 데이터의 편향을 반영하는 방법과 이를 해결할 수 있는 다양한 방법을 계속 연구하고 있습니다.
연구 미리 보기 동안 우리는 다음을 포함하여 안전 시스템을 개선하기 위한 다른 조치를 취했습니다.
- 실제 얼굴이 포함된 이미지 업로드를 거부하고 유명인 및 저명한 정치인을 비롯한 공인의 초상을 만들려고 시도하여 DALL·E가 사기성 콘텐츠를 만드는 데 오용될 위험을 최소화합니다.
- 콘텐츠 필터를 더 정확하게 만들어 우리의 규정을 위반하는 프롬프트 및 이미지 업로드를 차단하는 데 더 효과적입니다. 콘텐츠 정책 여전히 창의적인 표현을 허용하면서.
- 오용을 방지하기 위해 자동화 및 인적 모니터링 시스템을 개선합니다.
이러한 개선을 통해 DALL·E를 경험하도록 더 많은 사용자를 초대할 수 있다는 자신감을 얻었습니다.
접근성을 확장하는 것은 우리의 중요한 부분입니다. 책임감 있는 AI 시스템 배포 실제 사용에 대해 더 많이 배우고 안전 시스템을 계속 반복할 수 있기 때문입니다.
