WhatsApp AI 스티커는 팔레스타인 어린이에게 총을 추가합니다

WhatsApp AI 스티커는 팔레스타인 어린이에게 총을 추가합니다

타임 스탬프 : 6 년 2023 월 8 일 오후 16시
WhatsApp AI 스티커는 팔레스타인 어린이 PlatoBlockchain 데이터 인텔리전스에 총을 추가합니다. 수직 검색. 일체 포함.

미래 교과서에 대한 AI 편견의 또 다른 예가 될 수 있는 것은 WhatsApp의 스티커 제작자가 무슬림 팔레스타인인에 대해 질문했을 때 분명히 폭력적인 이미지를 생성했으며 유대인 이스라엘인에 대해서는 그렇게 하는 것을 자제했다는 것입니다.

Meta 소유의 메시징 앱을 사용하면 사람들이 AI를 사용하다 스티커 생성: 대화에 포함될 수 있는 이미지와 애니메이션. 왜? 재미를 위해.

"팔레스타인인", "팔레스타인" 또는 "팔레스타인 무슬림 소년"이라는 단어가 포함된 프롬프트가 주어지면 생성 소프트웨어는 이슬람 의상을 입고 AK-47 소총처럼 보이는 것을 들고 있는 소년 같은 캐릭터의 만화 스티커를 제공했다고 합니다. 

그러나 사용자가 "이스라엘 소년" 또는 "이스라엘 유대인 소년" 스티커를 생성해 달라고 요청했을 때 가상 캐릭터가 웃고 춤추는 온화한 영상을 반환했다고 The Guardian은 말했습니다. 신고. 그들 중 일부는 유대인 어린이들이 축구를 하고 있거나 총 대신 이스라엘 국기를 들고 있는 모습을 보여주었습니다.

'이스라엘군'이나 '이스라엘 방위군' 이미지를 제작해 달라는 요청에도 AI가 묘사한 군인들은 총을 들고 있지 않았다. 한 스티커에는 등 뒤에 칼 두 자루를 꽂은 남자가 기도하는 모습이 담겨 있었습니다. 그러나 "Hamas"라는 단어가 포함된 프롬프트는 모두 차단되었으며 앱에서는 갑자기 "AI 스티커를 생성할 수 없습니다."라고 명시했습니다. 다시 시도해 주세요.”

10,000만 명 이상의 사상자가 발생하는 이스라엘-하마스 분쟁이 계속되는 지금 당장 스티커의 차이도 간과할 수 없다. 신고 지금까지 가자에서는 1,400월 초부터 이스라엘에서는 XNUMX명이 발생했습니다. 메타 내부 직원들은 이러한 불균형을 발견하고 내부적으로 우려를 표명한 것으로 전해졌다. 

인터넷 거대 기업을 대표하는 대변인 Kevin McAlister는 AI 스티커 도구가 완벽하지 않다고 경고했습니다. “우리가 이 기능을 출시했을 때 말했듯이 모델은 모든 생성 AI 시스템과 마찬가지로 부정확하거나 부적절한 출력을 반환할 수 있습니다. 우리는 이러한 기능이 발전하고 더 많은 사람들이 피드백을 공유함에 따라 계속해서 개선할 것입니다.”라고 그는 말했습니다. 

CEO 마크 주커 버그 시작 2월에 스티커 도구를 출시했으며 Emu 시스템의 이미지 생성 기능과 함께 Llama XNUMX 대형 언어 모델의 Meta 텍스트 처리 기능을 기반으로 한다고 밝혔습니다. 이후 이 소프트웨어는 Facebook, Instagram, WhatsApp을 포함한 소셜 미디어 및 메시징 플랫폼과 통합되었습니다.

메타의 AI 스티커 툴이 논란을 불러일으킨 것은 이번이 처음이 아니다. 일반적으로 사용 가능하게 되기 전에 베타 테스터는 만화 캐릭터, 정치인 및 성기에 대한 부적절하고, 기괴하고, 음란한 이미지를 생성한다는 사실을 발견했습니다. 엉덩이가 강조된 캐나다 총리 저스틴 트뤼도, 가슴이 돋보이는 소닉 더 헤지혹, 다양한 남근 캐리커처 등의 사진을 제작했습니다.

한편 메타는 자사 플랫폼에 게시된 이스라엘-하마스 전쟁의 잘못된 정보와 폭력적이고 노골적인 영상을 단속하겠다고 다짐했습니다. 앤디 스톤 대변인 이야기 CNN은 특별 운영 센터를 설립하고 콘텐츠 조정을 위해 유창한 히브리어 및 아랍어 사용자를 고용했습니다.

“우리 팀은 플랫폼을 안전하게 유지하고, 정책이나 현지 법률을 위반하는 콘텐츠에 대해 조치를 취하고, 해당 지역의 제XNUMX자 사실 확인 기관과 협력하여 잘못된 정보의 확산을 제한하기 위해 XNUMX시간 내내 일하고 있습니다. 갈등이 전개되는 동안 우리는 이 작업을 계속할 것”이라고 말했다.

월요일에도 메타 맹세, 로이터를 통해 정치적 광고주가 생성적 표현을 사용하는 것을 금지합니다. AI 기반 광고 스위트.

등록 WhatsApp의 부모에게 추가 의견을 요청했습니다. ®

타임 스탬프 :

더보기 등록