소셜 미디어에서 AI 딥페이크를 발견하는 방법

소셜 미디어에서 AI 딥페이크를 발견하는 방법

타임 스탬프 : 4 년 2023 월 2 일 오전 59:XNUMX
소셜 미디어 PlatoBlockchain 데이터 인텔리전스에서 AI 딥페이크를 발견하는 방법. 수직 검색. 일체 포함.

지난주 중국 소셜미디어 플랫폼 웨이보에 게시된 영상에는 미국 팝스타 테일러 스위프트가 유창한 중국어를 구사하는 모습이 담겨 있다. 다만 영상 속 33세 가수는 아니었다. 중국 스타트업 헤이젠(HeyGen)의 AI 도구를 사용해 생성한 딥페이크 영상이었다.

스위프트 딥페이크가 처음 나온 21월 XNUMX일 이후 공유, 해당 영상은 조회수 XNUMX만 회 이상을 기록했다. 그러나 AI가 발전함에 따라 발생할 수 있는 잠재적인 함정에 대한 논쟁도 촉발되어 실제 신원이나 가짜 신원이나 콘텐츠를 구별하기 어렵게 만듭니다.

다른 사람을 사칭하는 데 사용되는 현실적이지만 가짜 이미지나 비디오(목소리 포함)를 배포하여 사이버 범죄자가 사기 행위에 활용할 수 있는 허위 디지털 신원을 생성할 수 있습니다. 이미지와 비디오는 표적이 된 사람과 똑같이 보이고 이야기됩니다.

예를 들어 XNUMX월에 한 중국 사업가가 4.3만 위안 손실 사기꾼이 얼굴 교환 AI를 사용해 친구를 사칭한 후 [$612,000]. Taylor Swift 딥페이크에는 금전적 손실이 없었지만 소셜 미디어에서 사기를 당하지 않도록 주의해야 할 사항은 다음과 같습니다.

AI 유명인의 지지 확인

사기꾼은 일반적으로 피해자를 유인하기 위해 신뢰할 수 있는 개인의 AI 딥페이크를 사용합니다. 최근 몇 달 동안 허위 보증으로 사람들을 속이는 수많은 가짜 AI 유명 인사들이 등장했습니다. Elon Musk 및 Beyonce와 같은 아이콘의 가짜 버전은 가짜 브랜드를 홍보하는 것을 목표로 합니다.

분명히, 많은 허위 광고는 Google 검색 결과에서 더 높은 순위를 차지하는데, 이는 아마도 회사가 사기성 콘텐츠를 필터링하기 위한 충분한 조치를 취하지 않기 때문일 것입니다.

하지만 AI가 생성한 가짜 콘텐츠가 넘쳐나는 시대에는 사실이라고 하기에는 너무 좋은 동영상에 비판적인 시각으로 접근하는 것이 중요합니다. 특별한 주장에는 특별한 증거가 필요합니다. 선정적으로 보이는 바이럴 동영상을 발견했다면 시간을 내어 해당 동영상의 진위 여부와 출처를 확인하세요.

소비자 기술 전문가이자 라디오 진행자인 Kim Komando는 "제품이나 서비스에 대한 조언을 원할 경우 리뷰를 보거나 정통하고 이를 증명할 수 있는 전문가를 찾으세요"라고 말합니다.

“또 다른 현명한 단계: '리뷰'라는 단어와 함께 광고에 나온 제품과 배우를 Google에 검색해 보세요. 누군가가 제품을 홍보하기 위해 돈을 받는다면 소셜 미디어에 떠다니는 광고는 무작위로 하나뿐이 아닙니다.”라고 그녀는 기사에서 덧붙였습니다. 출판 뉴욕 포스트에 의해.

또한 읽기 : AI 포르노 급증의 표적이 된 Taylor Swift, Emma Watson 등

세부 사항에주의하십시오

딥페이크 기술은 너무 현실적이어서 특히 무섭습니다. 다음과 같은 AI 도구 안정적인 확산 음성과 입 움직임을 조작하여 사람들이 비디오나 오디오 녹음이 진짜인지 쉽게 믿을 수 있습니다.

Ghostwriter가 만든 AI를 기억하세요 드레이크와 위켄드의 노래, 음악 스트리밍 서비스를 포함하여 수백만 명의 사람들이 그것이 새로운 릴리스라고 생각하도록 속인 것은 무엇입니까? 딥페이크를 발견하기 위해 AI 기반 전자상거래 가속기 Rice의 공동 창업자이자 CEO인 Alex Kim은 다음과 같이 제안합니다.

“보고 있는 비디오에 비정상적인 불일치가 있는지 주의 깊게 살펴보세요. 딥페이크를 사용하는 콘텐츠 제작자는 일반적으로 시간을 절약하려고 하기 때문에 세부 사항을 미세 조정하는 데 시간을 투자할 일이 아닙니다.”라고 Kim은 MetaNews에 말했습니다.

“즉, 일치하지 않는 얼굴 표정, 부자연스러운 움직임, 이상한 인공물, 음성 불일치 또는 립싱크가 딥페이크된 동영상에 존재할 가능성이 높다는 것을 의미합니다.”라고 김씨는 덧붙였습니다.

"딥페이크는 눈에 가장 큰 어려움을 겪기 때문에 눈에 특별한 주의를 기울이십시오."

중국 사업가의 사례는 딥페이크 기술이 선과 악을 위해 사용될 수 있는 강력한 도구임을 상기시켜줍니다. OpenAI가 지난 XNUMX월 바이러스성 챗봇 ChatGPT를 출시하여 글로벌 AI 경쟁을 촉발한 이후 규제 당국은 AI의 위험성에 더 많은 관심을 기울이기 시작했습니다.

이전에 MetaNews로 신고, 전문가들은 가짜 신원 사용을 탐지하고 예방할 수 있는 새로운 기술 개발을 제안합니다. 여기에는 온라인 사용자의 신원을 확인하기 위해 얼굴 인식이나 지문 스캔과 같은 생체 인식 데이터를 사용하는 것이 포함될 수 있습니다.

단서를 찾기 위해 배경을 확인하세요

일부 앱에서는 워터 마크 AI 생성 콘텐츠를 식별하는 것은 다른 사람들에게는 그렇게 명확하지 않습니다. AI 딥페이크 자료에 대한 단서를 찾으려면 사용자는 이미지나 비디오의 배경을 스캔해야 할 것이라고 Alex Kim이 말했습니다. 라이스윈 CEO

김씨는 “배경이 부자연스럽게 움직이거나 조명이 전경의 그림자와 일치하지 않는다면 딥페이크일 가능성이 크다”고 말했다. "재료의 질감이나 질감 부족과 같은 세부 사항은 다른 징후입니다."

“특별히 인간 대상에서 발생하는 경우 픽셀화나 흐릿함이 있어서는 안 되는 부분을 찾아보세요. 헤어라인, 귀, 코 또는 얼굴 특징과 같은 자연스러운 디테일은 적어도 설득력 있게 딥페이크에서 끌어내기가 어렵습니다.”

대부분 무료로 쉽게 접근할 수 있는 AI 기술은 악의적인 행위자들에 의해 다양한 방식으로 사용되고 있습니다. 테일러 스위프트, 엠마 왓슨 등 유명 여성 연예인의 이미지가 AI를 이용해 조작되어 딥페이크가 만들어졌습니다. 포르노 콘텐츠.

미국 매사추세츠 공과대학(MIT)의 새로운 AI 도구가 딥페이크를 억제할 것을 약속합니다. 사람들은 사용할 수 있습니다 포토가드 "[그들의] 사진을 딥페이크와 불쾌한 편집으로부터 안전하게 보호하기 위해 작고 눈에 보이지 않는 조정을 하는 것입니다. 이는 온라인 안전에 있어서 유망한 표준입니다."

Alex Kim은 MetaNews에 소셜 미디어에서 가짜 AI 비디오를 식별하는 가장 분명하고 일반적인 방법은 해당 비디오가 호스팅되는 채널을 고려하는 것이라고 말했습니다.

김씨는 “최근 채널에 얼마나 많은 게시물이 게시되었는지, 콘텐츠 제작이 크게 급증했는지 살펴보고 싶을 것”이라고 말했습니다. "이상해 보이거나 품질이 낮거나 이상해 보이는 동영상이 게시되면 제작자가 딥페이크를 사용하고 있다는 확실한 신호입니다."

타임 스탬프 :

더보기 메타뉴스