IWF, 생성 AI를 사용해 소아성애자에 대한 조치 요구

팔로워 : 0

인터넷 감시 재단(Internet Watch Foundation)은 생성 AI가 “대규모 이미지 생성”을 가능하게 하여 “온라인 아동 성적 학대와 싸우기 위해 노력하는 사람들을 압도”할 것이라고 경고하고 있습니다.

신체는 지난 한 해 동안 생성 AI의 급속한 발전에 경각심을 갖고 AI 생성 아동 성적 학대 자료(CSAM)가 시간이 지남에 따라 더욱 생생해질 것이라고 예측합니다.

범죄 중 가장 충격적인 범죄

Internet Watch Foundation은 생성적이라고 말합니다. AI 우리의 삶을 개선할 수 있는 큰 잠재력을 갖고 있지만 기술이 쉽게 악의적인 목적으로 바뀔 수 있다고 경고합니다.

IWF의 수지 하그리브스 회장은 가디언에 이렇게 말했다. 수요일 소속사의 “최악의 악몽이 현실이 됐다”는 것.

“올해 초 우리는 AI 이미지가 곧 성적 학대를 겪고 있는 어린이의 실제 사진과 구별할 수 없게 될 수 있으며, 이 이미지가 훨씬 더 많이 확산되는 것을 볼 수 있을 것이라고 경고했습니다. 이제 우리는 그 지점을 통과했습니다.” Hargreaves가 말했습니다.

그녀는 “소름끼치게도 우리는 이미 학대를 당한 실제 피해자의 이미지를 바탕으로 의도적으로 AI를 훈련시키는 범죄자들을 목격하고 있습니다. 과거에 성폭행을 당한 아이들이 이제 어딘가에서 누군가가 보고 싶어 한다는 이유로 새로운 시나리오에 편입되고 있다”고 말했다.

문제의 규모는 이미 CSAM에 맞서 싸우는 사람들에게 큰 문제를 일으키고 있습니다.

한 달 동안 20,254개의 AI 생성 이미지가 한 다크웹 CSAM 포럼에 게시되었습니다. IWF 분석가들은 생성 AI의 도움으로 생성된 2,562개의 범죄 가짜 사진을 식별했습니다.

이 중 절반 이상이 10세 미만의 어린이를 보여주었고, 564개는 가장 심각한 형태의 아동 학대 이미지인 카테고리 A 이미지로 분류되었습니다.

Generative AI는 CSAM의 새로운 범주를 만들고 있습니다. IWF 연구 결과에 따르면 유명 인사들은 AI 도구를 사용하여 노화되고 어린이로 변모하고 있습니다.

그런 다음 중년 유명인은 온라인 소아성애자의 만족을 위해 학대적인 시나리오에 배치됩니다.

유명인의 자녀도 표적이 되어 다크넷 포럼 사용자를 위해 어린이를 "나체화"합니다.

IWF는 이러한 이미지가 실제 CSAM과 구별하기가 점점 더 어려워지고 있다고 말합니다.

“가장 설득력 있는 AI CSAM은 숙련된 IWF 분석가라도 실제 CSAM과 시각적으로 구별할 수 없습니다. 텍스트를 이미지로 변환하는 기술은 더욱 발전할 것이며 IWF와 법 집행 기관에 더 많은 과제를 안겨줄 것입니다.”라고 말했습니다. 신고.

IWF는 영국에서는 전 세계 기술 기업에 CSAM이 사용 약관에 위배되는지 확인하도록 요청하고 있습니다. 또한 법 집행 기관이 이러한 유형의 이미지를 더 쉽게 식별할 수 있도록 더 나은 교육을 원합니다.

IWF는 또한 다음 달 블레츨리 파크에서 열리는 AI 서밋에서 AI CSAM을 주요 논의 주제로 삼을 것을 영국 정부에 요청하고 있습니다.

영국은 비즈니스 세계의 핵심 인물은 물론 세계 지도자들을 이번 행사에 유치하기를 희망하고 있습니다. 현재까지 G7 정상회의 참석이 확정된 유일한 지도자는 조르지아 멜로니 이탈리아 총리입니다.

타임 스탬프 : 28년 2022월 XNUMX일