AI 이미지 생성기가 더욱 발전함에 따라 딥페이크를 발견하는 것이 그 어느 때보다 어려워지고 있습니다. 법 집행 기관과 글로벌 리더들은 계속해서 AI 생성 위험에 대해 경종을 울리고 있습니다. 딥 페이크 소셜 미디어와 분쟁 지역에서.
Secta Labs의 공동 창립자이자 CEO인 Marko Jak은 "우리는 더 이상 우리가 보는 것을 믿을 수 없는 시대에 접어들고 있습니다."라고 말했습니다. 해독 인터뷰에서. "지금 당장은 딥 페이크가 아직 그다지 좋지 않기 때문에 더 쉽습니다. 때때로 그것이 명백하다는 것을 알 수 있습니다."
Jak에 따르면 가짜 이미지를 한 눈에 식별할 수 있는 능력이 더 이상 가능하지 않은 시점에서 그리 멀지 않은(아마도 XNUMX년 이내) 것입니다. 그리고 그는 알아야 합니다. Jak은 AI 이미지 생성기 회사의 CEO입니다.
잭 공동 설립 섹타랩스 2022년; 오스틴에 기반을 둔 생성 AI 스타트업은 고품질 AI 생성 이미지 생성에 중점을 둡니다. 사용자는 자신의 사진을 업로드하고 AI가 생성한 얼굴 사진과 아바타로 바꿀 수 있습니다.
Jak이 설명했듯이 Secta Labs는 사용자를 데이터에서 생성된 AI 모델의 소유자로 보는 반면 회사는 이러한 모델에서 이미지를 생성하는 데 도움을 주는 관리인에 불과합니다.
고급 AI 모델의 오용 가능성으로 인해 세계 지도자들은 즉각적인 동작 AI 규제에 대해 회사가 고급 도구를 대중에게 공개하지 않기로 결정하게 만들었습니다.
지난 주 신제품 발표 후 보이스박스 AI로 생성된 음성 플랫폼인 Meta는 AI를 대중에게 공개하지 않을 것이라고 말했습니다.
Meta 대변인은 "AI 커뮤니티에 개방하고 AI의 최첨단 기술을 발전시키기 위해 연구를 공유하는 것이 중요하다고 생각합니다."라고 말했습니다. 해독 이메일에서. “개방성과 책임감 사이에서 올바른 균형을 유지하는 것도 필요합니다.”
이달 초 미국 연방수사국은 경고 가짜 콘텐츠를 만들기 위해 소셜 미디어에서 가져온 사진과 비디오를 사용하는 AI 딥페이크 강탈 사기 및 범죄자.
Jak은 딥페이크와의 싸움에 대한 답은 딥페이크를 발견할 수 있는 것이 아니라 딥페이크를 폭로할 수 있는 것일 수 있다고 말했습니다.
Jak은 “AI는 [딥페이크]를 발견할 수 있는 첫 번째 방법입니다. "영상처럼 이미지를 넣을 수 있는 인공지능을 만드는 사람들이 있고, AI가 생성했는지 여부를 AI가 알려줄 수 있습니다."
제너레이티브 AI와 영화 및 TV에서 AI 생성 이미지의 잠재적 사용은 엔터테인먼트 산업에서 뜨거운 주제입니다. SAG-AFTRA 회원들은 파업, 중요한 관심사, 인공 지능을 승인하기 위해 계약 협상을 시작하기 전에 투표했습니다.
Jak은 기술이 더욱 발전하고 악의적인 행위자가 이를 탐지하도록 설계된 기술에 대응하기 위해 더욱 발전된 딥페이크를 생성함에 따라 펼쳐지는 AI 군비 경쟁이 문제라고 덧붙였습니다.
실제 문제에 대한 해결책으로 블록체인이 과도하게 사용되고 있음을 인정하면서 Jak은 기술과 암호화가 딥페이크 문제를 해결할 수 있다고 말했습니다.
그러나 기술은 딥페이크로 많은 문제를 해결할 수 있지만 Jak은 기술 수준이 낮은 솔루션인 군중의 지혜가 핵심일 수 있다고 말했습니다.
Jak은 "Twitter가 한 일 중 좋은 아이디어라고 생각하는 것 중 하나는 사람들이 누군가의 트윗에 대한 맥락을 제공하기 위해 메모를 추가할 수 있는 커뮤니티 메모입니다."라고 말했습니다. “딥페이크가 그러하듯이 트윗도 잘못된 정보일 수 있습니다. Jak은 소셜 미디어 회사가 커뮤니티를 활용하여 유포된 콘텐츠의 진위 여부를 확인하는 방법을 생각하는 것이 도움이 될 것이라고 덧붙였습니다.
"블록체인은 특정 문제를 해결할 수 있지만 암호화는 이미지의 출처를 인증하는 데 도움이 될 수 있습니다."라고 그는 말했습니다. “딥페이크가 아무리 정교하더라도 이미지 콘텐츠가 아닌 소스 검증을 다루기 때문에 이것은 실용적인 솔루션이 될 수 있습니다.”
암호화 뉴스를 최신 상태로 유지하고 받은 편지함에서 매일 업데이트를 받으십시오.
