AI 포르노 급증의 표적이 된 테일러 스위프트와 엠마 왓슨

데일리 메일(Daily Mail)에 따르면 테일러 스위프트(Taylor Swift), 나탈리 포트만(Natalie Portman), 엠마 왓슨(Emma Watson) 등 유명 여성 유명인의 이미지가 AI 기술을 사용해 에로틱하거나 포르노적인 콘텐츠를 제작하는 딥페이크 X 등급 자료가 급증하고 있다고 합니다.

뉴욕에 본사를 둔 소프트웨어 회사인 ActiveFence의 새로운 보고서에 따르면 오픈 웹의 수많은 플랫폼에서 유명인을 "토론하고 공유"하는 것으로 나타났습니다. 딥 페이크 포르노 올해 87월까지 2022개월간 XNUMX년 같은 기간 대비 XNUMX% 급증했다.

'아무도 안전하지 않다'

음악과 영화 산업의 A급 스타들이 주요 표적이 되었지만 불법적인 성적 콘텐츠, 연구자들은 잠재적인 학대로부터 “아무도 안전하지 않다”고 경고합니다. ActiveFence는 AI를 사용하여 옷을 벗은 개인의 수가 지난 한 해 동안 거의 400% 급증했다고 밝혔습니다.

ActiveFence의 연구원인 Amir Oneli는 “오늘 우리는 이것이 매우 즉각적이고 빠르기 때문에 개인에게 영향을 미치고 있음을 확인하고 있습니다.”라고 말했습니다. 우편. 그는 AI가 가짜 성적인 이미지나 영화를 생성해 사람들의 생명을 위험에 빠뜨릴 수 있는 효율성을 언급한 것입니다.

“가장 비극적인 것은 누구도 안전하지 않다는 것입니다.”라고 그는 말했습니다.

유명인의 나체 딥페이크 사진은 정지 이미지로 옷을 완전히 입은 사람들의 옷을 벗길 수 있는 일종의 생성 AI 도구를 사용하여 만들어졌습니다. Taylor Swift와 같은 유명인의 얼굴은 음란한 성행위를 하는 다른 사람의 몸에 겹쳐질 수 있습니다.

ActiveFence에 따르면 이러한 공격의 대상이 된 유명인의 사진은 소셜 미디어나 데이트 프로필에서 가져온 것입니다. 예를 들어, AI가 만든 가짜 포르노 비디오는 "가수 스위프트(Swift)가 출연하는" 조회수는 수십만 회에 달한다고 보고서는 밝혔습니다.

흥분한 개인이 변태적인 자료에 접근하는 데는 대단한 기술이 필요하지 않습니다. 간단한 Google 검색 쉽게 이용할 수 있는 다양한 유명인 딥페이크가 등장할 것입니다. 오넬리는 신분과 신분을 막론하고 많은 여성들이 AI가 만든 '리벤지 포르노'의 피해자가 될 수 있다는 점을 우려하고 있다.

또한 읽기 : 스페인 마을에서 어린 소녀들의 AI '누드'가 분노를 불러일으켰습니다.

연구원은 부분적으로 다음과 같은 기술 회사를 비난했습니다. Microsoft, OpenAI 그리고 Google이 문제를 더욱 악화시켰습니다. 예를 들어 XNUMX월에 Facebook 소유자는 메타 AI 기술을 오픈소스화하여 초보 개발자가 자신의 AI 챗봇 딥페이크 포르노를 만들기 위해.

OpenAI는 자사의 챗봇이 성, 인종 차별, 아동 학대 및 기타 악성 콘텐츠와 관련된 메시지를 거부하도록 훈련되었다고 자주 밝혔습니다. 마찬가지로 구글과 마이크로소프트도 악용을 방지하기 위해 포괄적인 가드레일을 구현했다고 강조했다.

AI 붐

이제 AI 포르노 산업이 호황을 누리고 있다고 온라인 안전업체 액티브펜스(ActiveFence)가 말했다. 인터넷에는 "누구나 옷을 벗길 수 있는" 온라인 인공 지능 도구를 팬들이 공유하는 등 수많은 사이트가 급증하고 있습니다.

누군가를 알몸으로 만들 수 있는 올바른 사진을 선택하는 방법에 대한 조언을 포함하여 '사용 방법 가이드'가 많이 있습니다. 수백만 명의 사람들이 매월 노골적인 AI 성 콘텐츠에 액세스하기 위해 비용을 지불하고 있다고 Mail이 보도했습니다.

웹 분석 회사인 유사한 웹(SimilarWeb)에 따르면 인기 있는 가짜 포르노 웹사이트인 MrDeepFakes는 월간 사용자 수가 17만 명에 달합니다. ActiveFence에 따르면 일부 웹사이트에서는 가짜 포르노 콘텐츠를 다운로드하는 데 6달러 정도의 비용이 청구되며, 이미지 560개당 가격은 2,000달러에 달할 수 있습니다.

일부 웹사이트에서는 400달러에 이른바 '패스트 패스' 티켓을 통해 사용자에게 대기열을 건너뛸 수 있는 기회를 제공한다고 메일이 보도했습니다. 사용자가 MrDeepFakes에서 더 긴 버전의 AI 포르노를 구매하면 성인용 콘텐츠 제작에 높은 비용을 지불한다고 주장하는 사이트인 Fan-Topia로 리디렉션됩니다.

"[MrDeepFakes]가 작동이 허용되고 알려져 있다는 사실은 해당 공간의 모든 규제 기관, 모든 법 집행 기관, 전체 시스템에 대한 완전한 기소입니다." 기술 법률 전문가 Noelle Martin 이야기 NBC

미국 의회는 불법 X등급 성적 자료의 공유를 중단하는 것을 목표로 하는 친밀한 이미지 딥페이크 방지 법안에 대해 여전히 논의 중입니다. 해당 법안은 XNUMX월에 제출됐다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://metanews.com/taylor-swift-emma-watson-and-others-targeted-as-ai-porn-surges/