IWF yêu cầu hành động đối với những kẻ ấu dâm bằng cách sử dụng AI sáng tạo

Tổ chức Theo dõi Internet đang cảnh báo rằng AI có tính tổng hợp có nguy cơ cho phép “tạo ra hình ảnh trên quy mô lớn”, điều này sẽ “làm choáng ngợp những người đang nỗ lực chống lạm dụng tình dục trẻ em trực tuyến”.

Cơ quan này cảnh giác trước sự tiến bộ nhanh chóng của AI sáng tạo trong suốt năm qua và dự đoán rằng tài liệu lạm dụng tình dục trẻ em (CSAM) do AI tạo ra sẽ chỉ trở nên đồ họa hơn theo thời gian.

Những tội ác đáng lo ngại nhất

Tổ chức Theo dõi Internet nói rằng có tính sáng tạo AI có tiềm năng to lớn để cải thiện cuộc sống của chúng ta, nhưng cảnh báo rằng công nghệ này có thể dễ dàng bị biến thành mục đích xấu.

Susie Hargreaves, giám đốc điều hành của IWF, nói với Guardian về Thứ Tư rằng “cơn ác mộng tồi tệ nhất của cơ quan đã trở thành sự thật.”

“Đầu năm nay, chúng tôi đã cảnh báo hình ảnh AI có thể sớm không thể phân biệt được với hình ảnh thật về trẻ em bị lạm dụng tình dục và chúng ta có thể bắt đầu thấy hình ảnh này ngày càng phổ biến với số lượng lớn hơn nhiều. Bây giờ chúng tôi đã vượt qua điểm đó,” Hargreaves nói.

Cô nói thêm, “Thật rùng mình, chúng ta đang thấy bọn tội phạm cố tình đào tạo AI của chúng dựa trên hình ảnh của những nạn nhân thực sự đã bị lạm dụng. Những đứa trẻ từng bị cưỡng hiếp trong quá khứ giờ đây đang được đưa vào những kịch bản mới bởi vì ai đó, ở đâu đó, muốn xem nó.”

Quy mô của vấn đề đã gây ra những vấn đề lớn cho những người đấu tranh chống lại CSAM.

Trong một tháng, 20,254 hình ảnh do AI tạo ra đã được đăng lên một diễn đàn CSAM web đen. Các nhà phân tích của IWF đã xác định được 2,562 bức ảnh giả tội phạm, được tạo ra với sự hỗ trợ của AI.

Hơn một nửa trong số này có hình ảnh trẻ em dưới 10 tuổi trong khi 564 hình ảnh được phân loại là hình ảnh loại A – dạng hình ảnh lạm dụng trẻ em nghiêm trọng nhất.

Ảnh CSAM của người nổi tiếng

AI sáng tạo đang tạo ra các danh mục CSAM mới. Phát hiện của IWF cho thấy những người nổi tiếng đang bị lão hóa và biến thành trẻ em bằng các công cụ AI.

Sau đó, những người nổi tiếng đã già đi sẽ bị đưa vào các tình huống lạm dụng để làm hài lòng những kẻ ấu dâm trực tuyến.

Con cái của những người nổi tiếng cũng là mục tiêu, “khỏa thân” những người trẻ tuổi đối với người dùng trên các diễn đàn darknet.

IWF cho biết những hình ảnh này ngày càng khó phân biệt với nội dung xâm hại tình dục trẻ em thật.

“CSAM AI thuyết phục nhất khó có thể phân biệt được bằng hình ảnh với CSAM thực, ngay cả đối với các nhà phân tích IWF đã qua đào tạo. Công nghệ chuyển văn bản thành hình ảnh sẽ ngày càng trở nên tốt hơn và đặt ra nhiều thách thức hơn cho IWF và các cơ quan thực thi pháp luật.” báo cáo.

Khuyến nghị của chính phủ

IWF, có trụ sở tại Vương quốc Anh, đang yêu cầu các công ty công nghệ trên khắp thế giới đảm bảo rằng nội dung CSAM vi phạm thỏa thuận điều khoản sử dụng của họ. Nó cũng muốn đào tạo tốt hơn cho các cơ quan thực thi pháp luật để họ có thể dễ dàng xác định những loại hình ảnh này hơn.

IWF cũng đang yêu cầu chính phủ Anh đưa AI CSAM trở thành chủ đề thảo luận chính tại Hội nghị thượng đỉnh AI sắp tới tại Bletchley Park vào tháng tới.

Vương quốc Anh hy vọng sẽ thu hút được những nhân vật chủ chốt từ giới kinh doanh cũng như các nhà lãnh đạo thế giới đến tham dự sự kiện này. Cho đến nay, Thủ tướng Ý Giorgia Meloni là nhà lãnh đạo duy nhất được xác nhận của G7 dự kiến ​​​​sẽ tham dự.

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://metanews.com/iwf-demands-action-on-pedophiles-using-generative-ai/