한국 경찰, 선거 전 딥페이크 탐지 도구 배포

한국 경찰, 선거 전 딥페이크 탐지 도구 배포

타임 스탬프 : 8 년 2024 월 3 일 오후 06:XNUMX
한국 경찰, 선거 전에 딥페이크 탐지 도구 배포 PlatoBlockchain Data Intelligence. 수직 검색. 일체 포함.

정치적 동기를 지닌 딥페이크가 급격히 증가하는 가운데, 한국 경찰청(KNPA)은 잠재적인 범죄 수사에 사용할 AI 생성 콘텐츠를 탐지하는 도구를 개발 및 배포했습니다.

경찰청 국립수사처(NOI)에 따르면 딥러닝 프로그램은 한국 시민 5.2명으로부터 수집한 약 5,400만 개의 데이터를 대상으로 훈련됐다. 사전 훈련되지 않은 비디오가 실제인지 아닌지를 단 10~80분 만에 판단할 수 있으며 정확도는 약 XNUMX%입니다. 이 도구는 경찰이 범죄 수사에 사용할 수 있는 결과 시트를 자동으로 생성합니다.

한국 언론이 보도한 대로, 이러한 결과는 조사 결과를 알리는 데 사용되지만 형사 재판에서 직접적인 증거로 사용되지는 않습니다. 경찰은 학계와 기업계 AI 전문가와 협업할 수 있는 공간도 마련할 예정이다.

AI 보안 전문가들은 잘못된 정보와 딥페이크 탐지를 포함해 AI를 선의로 활용할 것을 촉구했습니다.

Check Point의 CEO인 Gil Shwed는 이번 주 인터뷰에서 Dark Reading과의 인터뷰에서 “이것이 요점입니다. AI는 어떤 규모로든 [거짓 콘텐츠]를 분석하는 데 도움이 될 수 있습니다.”라고 말했습니다. AI는 질병이지만 치료법이기도 합니다. “[사기 탐지]에는 매우 복잡한 기술이 필요했지만 AI를 사용하면 좋은 정보와 많은 양의 정보뿐만 아니라 최소한의 정보로 동일한 작업을 수행할 수 있습니다. 정보."

한국의 딥페이크 문제

전 세계가 딥페이크를 기대하고 있는 동안 선거 시즌을 침략하다, 한국인들은 이미 이 문제를 가까이서 개인적으로 다루어 왔습니다.

탄광의 카나리아 사건은 2022년 지방선거 당시 윤석열 총장이 지역 여당 후보를 지지하는 모습이 담긴 영상이 SNS에 퍼지면서 발생했다.

이러한 유형의 속임수는 최근 더욱 널리 퍼졌습니다. 지난달 중앙선거관리위원회는 29월 16일부터 XNUMX월 XNUMX일까지 129개의 딥페이크가 감지되었습니다. 선거법을 위반한 수치입니다. 이 수치는 10월 29일 선거일이 다가올수록 증가할 것으로 예상됩니다. 이 모든 것은 50월 37,500일 발효된 개정법에도 불구하고 선거와 관련하여 딥페이크 비디오, 사진 또는 오디오를 사용하면 시민에게 최대 XNUMX년의 징역형과 최대 XNUMX천만원의 벌금을 부과할 수 있다는 내용입니다. (약 XNUMX달러). 

허위정보만이 아니다

Check Point의 Shwed는 다른 신기술과 마찬가지로 AI에도 위험이 있다고 경고했습니다. “그렇습니다. 나쁜 일이 일어날 수 있으며 우리는 이에 맞서 방어해야 합니다.”라고 그는 말했습니다.

가짜 정보는 그다지 문제가 되지 않는다고 그는 덧붙였다. “일반적으로 인간 갈등의 가장 큰 문제는 우리가 전체 그림을 볼 수 없다는 것입니다. 우리는 [뉴스에서] 보고 싶은 요소를 선택한 다음 이를 기반으로 결정을 내립니다.”라고 그는 말했습니다.

“이것은 허위 정보에 관한 것이 아니라 당신이 믿는 것에 관한 것입니다. 그리고 당신이 믿는 것에 기초하여 보고 싶은 정보를 선택합니다. 그 반대는 아닙니다.”

타임 스탬프 :

더보기 어두운 독서