AI 속임수: AI가 만든 백인 얼굴이 진짜처럼 보입니다

호주의 한 연구에 따르면 AI는 실제 인간보다 더 실제적인 백인 얼굴을 만들어내는 것으로 나타났습니다.

기술은 누구나 예술가가 되는 것을 더 쉽게 만들었지만, 동일한 기술에도 의견이 나뉘는 함정이 있습니다.

호주국립대학교 연구진이 주도하고 Psychological Science에 발표된 연구에 따르면, 사람들은 AI가 생성한 하얀 얼굴이 인간이고 실제 인간의 얼굴보다 더 현실적이라고 생각했습니다.

인종적 편견

그러나 이것은 유색인종의 경우는 그렇지 않아 AI 기술로 인종 문제를 제기합니다. 이후 이 기술은 인종적 편견뿐만 아니라 특정 그룹의 사람들에 대해 다양한 형태의 편견을 전달하는 것으로 분류되었습니다.

논문의 수석 저자인 에이미 다웰(Amy Dawel) 박사는 “흰 얼굴이 지속적으로 더 현실적으로 인식된다면 이 기술은 궁극적으로 인종적 편견을 강화함으로써 유색인종에게 깊은 영향을 미칠 수 있습니다.”라고 말했습니다.

Dawel 박사는 AI가 생성한 백인 얼굴과 흑인 얼굴의 눈에 띄는 차이는 알고리즘이 불균형적으로 훈련된 결과라고 설명했습니다.

“이 문제는 전문가 수준의 얼굴 사진을 만드는 데 사용되는 현재 AI 기술에서 이미 명백히 드러납니다.

“유색인종에게 사용될 때, AI가 피부를 바꾸고 있다 그리고 눈 색깔은 백인의 눈 색깔과 비슷합니다.”라고 연구원들은 말했습니다.

별개이지만 관련된 사건으로, 아르세니 Oxford-Johns Hopkins Global Infectious Disease Ethics Collaborative의 박사후 연구원인 Alenichev는 AI 이미지 생성기를 실험하고 있었습니다. 그가 가난한 백인 아이들을 돕는 흑인 의사의 사진을 요청했을 때, 그 사진들은 사양에도 불구하고 항상 흑인 아이들과 백인 의사들을 묘사했습니다.

흑인 과학자의 다른 이미지는 기린 같은 야생동물이 있어요 그들 옆에. 다른 시도가 나타났습니다 무섭고 훼손된 흑인 여성의 "미소"의 "이미지".

블룸버그 신고 AI 모델에도 영속적인 능력이 있다고 제안합니다. 고정 관념 소외된 사람들을 바람직하지 않은 상황에 놓이게 할 수도 있습니다.

또한 읽기 : 사우디아라비아, AI 윤리를 위한 국제 센터 설립

속임수

ANU 박사과정 후보자이자 이번 연구의 공동저자인 엘리자베스 밀러(Elizabeth Miller)는 설문조사에 참여한 대부분의 사람들이 AI가 만든 얼굴을 실제 얼굴로 착각하고 자신의 답변에 자신감을 갖고 있다는 사실을 발견했다고 말했습니다.

“이것은 AI 사기꾼을 실제 사람으로 착각하는 사람들이 자신이 속고 있다는 사실을 모른다는 것을 의미합니다.”라고 그녀는 말했습니다.

The Standard에 따르면 약간의 차이는 있었지만 사람들은 여전히 ​​속고 있었으며 Dawel 박사는 균형 잡힌 얼굴이 더 많은 것이 "AI가 얼굴을 생성했다는 전형적인 징후"라고 지적했습니다.

그러나 조사 대상자들은 이를 인간다움의 표시로 착각했다.

“우리는 이러한 물리적 신호에 오랫동안 의존할 수 없습니다. AI 기술이 너무 빨리 발전하고 있어서 AI와 인간 얼굴의 차이가 머지않아 사라질 것”이라고 말했다.

그녀는 이것이 문제가 될 수 있으며 온라인 잘못된 정보와 관련하여 큰 영향을 미칠 수 있다고 덧붙였습니다. 딥 페이크, 그리고 신분 도용.

잘못된 정보와 사기꾼

Dawel 박사는 AI 얼굴과 실제 얼굴의 구별이 부족하기 때문에 사람들이 조심해야 하며 그렇지 않으면 사기꾼에게 속을 위험이 있다고 덧붙였습니다.

“인간이 더 이상 AI 얼굴을 감지할 수 없다는 점을 감안할 때 사회에는 AI 사기꾼을 정확하게 식별할 수 있는 도구가 필요합니다.”라고 그녀는 말했습니다.

"사람들에게 AI 얼굴의 현실감에 대해 교육하면 대중이 온라인에서 보고 있는 이미지에 대해 적절하게 회의적이 되도록 만드는 데 도움이 될 수 있습니다."

생성 AI 전문가 예측 향후 몇 년 안에 온라인 콘텐츠의 최대 90%가 AI로 생성될 수 있다고 합니다.

이미 생성 AI가 등장하고 텍스트, 이미지, 오디오, 비디오를 생성하는 능력이 향상되면서 사람들이 속아서 신용 카드 번호를 공개하는 사례가 증가했습니다.

사기꾼들은 또한 순진한 사람들을 속여 곤경에 처해 긴급한 도움이 필요한 가족이나 가까운 친구인 것처럼 가장하는 낯선 사람에게 돈을 보내도록 합니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/ai-deception-ai-made-caucasian-faces-look-more-real-than-actual-faces/