Meta đang xây dựng các công cụ để phát hiện, xác định và gắn nhãn các hình ảnh do AI tạo ra được chia sẻ thông qua các nền tảng truyền thông xã hội của mình. Nó cũng đang thử nghiệm các mô hình ngôn ngữ lớn để tự động kiểm duyệt nội dung trực tuyến.
Vào thứ Ba, chủ tịch phụ trách các vấn đề toàn cầu của Meta (và cựu Phó Thủ tướng Vương quốc Anh) Nick Clegg đã công bố kế hoạch gắn cờ trên tài liệu Facebook, Instagram và Threads được tạo ra không chỉ bởi các mô hình AI chuyển văn bản thành hình ảnh của gã khổng lồ Hoa Kỳ mà còn cả những thứ được chế tạo bởi các ứng dụng học máy bên ngoài. Ý tưởng là để cảnh báo cư dân mạng rằng nội dung trực tuyến có thể không giống như vẻ ngoài của nó và có thể đã được phát minh bằng cách sử dụng các công cụ AI để lừa đảo mọi người, bất kể nguồn gốc của nó là gì.
Clegg nói các kỹ sư tại Meta hiện đang phát triển các công cụ để gắn thẻ nội dung do AI tạo ra bằng hình ảnh thực tế với chú thích “Được tưởng tượng bằng AI” trên các ứng dụng của mình và sẽ hiển thị nhãn này khi cần thiết trong những tháng tới.
Chúng tôi được biết, những hình ảnh chân thực được tạo bởi trợ lý Meta AI tích hợp đã được tự động gắn nhãn như vậy, sử dụng các điểm đánh dấu hiển thị và vô hình. Những thứ chất lượng cao do AI tạo ra được gửi từ bên ngoài cũng cần được phát hiện theo một cách nào đó và được đánh dấu như vậy trong đế chế ứng dụng của gã khổng lồ Facebook.
Trước mắt, Facebook dự định dựa vào các hình mờ bên trong các tệp đã gửi để khai báo nguồn nội dung – dựa vào các trình tạo nội dung AI bên ngoài bao gồm các dấu hiệu hoặc siêu dữ liệu đó mà không bị loại bỏ – đồng thời cũng yêu cầu mọi người khai báo nội dung một cách trung thực như AI tạo ra khi chia sẻ phương tiện.
Về lâu dài, Meta dự định sử dụng các bộ phân loại có thể tự động phân biệt liệu vật liệu có được tạo ra bởi mạng thần kinh hay không, do đó tránh sự phụ thuộc vào nhãn và trình tạo do người dùng gửi, bao gồm cả các dấu hiệu được hỗ trợ. Điều này đòi hỏi người dùng phải 'thú nhận khi họ sử dụng phương tiện giả mạo - nếu họ thậm chí còn biết rằng nó là giả mạo - cũng như dựa vào các ứng dụng bên ngoài để gắn nhãn chính xác cho nội dung là do máy tính tạo ra mà không bị mọi người loại bỏ, như họ nói trong công nghệ phần mềm, dễ vỡ. Những bộ phân loại tự động đó, nếu chúng hoạt động tốt như mong muốn, là cần thiết nhất.
Ít nhất hiện tại, những người tải lên âm thanh và video chắc chắn sẽ cần phải khai báo xem tài liệu đó là deepfake hay thật vì Meta cho biết vẫn chưa có cách nhất quán để xác định cảnh quay và âm thanh do AI tạo ra; và các hình ảnh được Meta AI tự động đánh dấu, bao gồm các hình mờ tiết lộ nguồn thực sự hoặc có lẽ có thể được mọi người gắn cờ theo cách thủ công. Và sau này tất cả điều này có thể được tự động hóa.
“Chúng tôi sẽ yêu cầu mọi người sử dụng công cụ tiết lộ và gắn nhãn này khi họ đăng nội dung không phải trả tiền có video giống như hình ảnh thực tế hoặc âm thanh có âm thanh chân thực được tạo hoặc thay đổi bằng kỹ thuật số và chúng tôi có thể áp dụng các hình phạt nếu họ không làm như vậy,” Clegg nói.
Đối với các hỗ trợ hình mờ của Meta, bao gồm các hỗ trợ của Liên minh về Chứng minh và Xác thực Nội dung (C2PA) và Hội đồng Viễn thông Báo chí Quốc tế (IPTC). Đây là những sáng kiến trong ngành được hỗ trợ bởi các nhóm công nghệ và truyền thông đang cố gắng giúp việc xác định nội dung do máy tạo ra dễ dàng hơn. Chúng không thể đánh bại được và có thể bị đánh bại như chúng tôi đã báo cáo trước đây.
Các chiến lược mới nhất của Meta giải quyết nội dung AI được đưa ra ngay sau khi Ban giám sát của nó, một nhóm gồm các chuyên gia độc lập xem xét kỹ lưỡng các chính sách kiểm duyệt nội dung của nó, phàn nàn rằng các quy định hiện hành về phương tiện bị thao túng là “không mạch lạc”. Hội đồng đã đưa ra một thăm dò năm ngoái về lý do Meta quyết định cho phép một video giả mạo về Tổng thống Biden đã được thay đổi kỹ thuật số để cho rằng ông là một kẻ ấu dâm vẫn tồn tại trên đế chế mạng xã hội của mình.
Ngoài các công cụ được hỗ trợ bởi C2PA và IPTC, Meta đang thử nghiệm khả năng tự động xác định xem một bài đăng có vi phạm chính sách của các mô hình ngôn ngữ lớn hay không.
Mạng xã hội Biz đang đào tạo các hệ thống này dựa trên dữ liệu của chính họ và tin rằng phần mềm có thể cắt giảm nội dung cần được con người đánh giá, cho phép họ tập trung vào các trường hợp phức tạp hơn.
Clegg nói: “Khi sự khác biệt giữa nội dung của con người và nội dung tổng hợp ngày càng mờ đi, mọi người muốn biết ranh giới nằm ở đâu”.
“Mọi người thường lần đầu tiên nhìn thấy nội dung do AI tạo ra và người dùng của chúng tôi đã nói với chúng tôi rằng họ đánh giá cao tính minh bạch xung quanh công nghệ mới này. Chúng tôi sẽ áp dụng cách tiếp cận này trong năm tới, trong thời gian đó một số cuộc bầu cử quan trọng sẽ diễn ra trên khắp thế giới.” ®
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :là
- :không phải
- :Ở đâu
- $ LÊN
- 7
- a
- có khả năng
- ngang qua
- Ngoài ra
- Giao
- Sau
- AI
- Trợ lý AI
- Mô hình AI
- Tất cả
- cho phép
- Cho phép
- Đã
- Ngoài ra
- thay đổi
- và
- công bố
- các ứng dụng
- Đăng Nhập
- đánh giá cao
- phương pháp tiếp cận
- ứng dụng
- LÀ
- xung quanh
- AS
- yêu cầu
- đánh giá
- Trợ lý
- At
- âm thanh
- tính xác thực
- Tự động
- tự động
- tránh
- nhận thức
- xa
- được hậu thuẫn
- BE
- được
- được
- Tin
- giữa
- Biden
- biz
- bảng
- ranh giới
- Xây dựng
- được xây dựng trong
- nhưng
- by
- CAN
- trường hợp
- xin
- CO
- liên minh
- Đến
- đến
- thích hợp
- nội dung
- đúng
- có thể
- hội đồng
- chế tạo
- tạo ra
- Current
- Cắt
- cắt
- dữ liệu
- quyết định
- tuyên bố
- chắc chắn
- Phó
- mong muốn
- phát hiện
- phát hiện
- Phát hiện
- Xác định
- phát triển
- sự khác biệt
- kỹ thuật số
- phân biệt
- công bố thông tin
- do
- xuống
- suốt trong
- dễ dàng hơn
- Cạnh
- hay
- Bầu cử
- Empire
- Kỹ Sư
- Kỹ sư
- Ngay cả
- BAO GIỜ
- các chuyên gia
- ngoài
- FAIL
- giả mạo
- FB
- Các tập tin
- Tên
- lần đầu tiên
- được gắn cờ
- Tập trung
- Trong
- Cựu
- từ
- máy phát điện
- được
- khổng lồ
- Toàn cầu
- Các nhóm
- có
- Có
- he
- chất lượng cao
- Thành thật
- HTTPS
- Nhân loại
- ý tưởng
- xác định
- if
- hình ảnh
- hình ảnh
- tưởng tượng
- quan trọng
- in
- bao gồm
- bao gồm
- Bao gồm
- độc lập
- ngành công nghiệp
- khả năng phán đoán
- trong
- dự định
- Quốc Tế
- trong
- Phát minh
- vô hình
- isn
- IT
- ITS
- jpg
- chỉ
- Biết
- nhãn
- ghi nhãn
- Ngôn ngữ
- lớn
- Họ
- Năm ngoái
- một lát sau
- mới nhất
- phát động
- ít nhất
- nằm
- ll
- dài
- thực hiện
- làm cho
- thao tác
- thủ công
- đánh dấu
- vật liệu
- Có thể..
- Phương tiện truyền thông
- Siêu dữ liệu
- Siêu dữ liệu
- mô hình
- vừa phải
- điều độ
- tháng
- hầu hết
- cần thiết
- Cần
- cần thiết
- nhu cầu
- mạng
- thần kinh
- mạng lưới thần kinh
- Mới
- tiếp theo
- nick
- tại
- con số
- of
- thường
- on
- Trực tuyến
- có thể
- or
- hữu cơ
- vfoXNUMXfipXNUMXhfpiXNUMXufhpiXNUMXuf
- ra
- bên ngoài
- kết thúc
- Giám sát
- riêng
- bảng điều khiển
- hình phạt
- người
- Những bức ảnh
- Nơi
- kế hoạch
- Nền tảng
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- Chính sách
- Bài đăng
- Chủ tịch
- chủ tịch biden
- nhấn
- trước đây
- Thủ tướng Chính phủ
- nguồn gốc
- RE
- thực
- Bất kể
- sự phụ thuộc
- dựa
- dựa vào
- Báo cáo
- yêu cầu
- tiết lộ
- ngay
- quy tắc
- s
- Nói
- nói
- nói
- dường như
- chia sẻ
- chia sẻ
- ngắn
- hiển thị
- So
- Mạng xã hội
- truyền thông xã hội
- phương tiện truyền thông xã hội nền tảng
- mạng xã hội
- Phần mềm
- kỹ thuật phần mềm
- một số
- âm thanh
- nguồn
- ở lại
- chiến lược
- trình
- như vậy
- Hỗ trợ
- Hỗ trợ
- sợi tổng hợp
- hệ thống
- giải quyết
- TAG
- dùng
- Công nghệ
- viễn thông
- kỳ hạn
- Kiểm tra
- việc này
- Sản phẩm
- Nguồn
- thế giới
- Them
- Đó
- Kia là
- họ
- điều này
- những
- Thông qua
- Như vậy
- thời gian
- đến
- nói với
- công cụ
- công cụ
- Hội thảo
- Minh bạch
- đúng
- thử
- cố gắng
- Thứ Ba
- Uk
- Đang tải lên
- us
- sử dụng
- Người sử dụng
- sử dụng
- Ve
- thông qua
- Video
- có thể nhìn thấy
- muốn
- là
- Làm dấu
- watermarks
- Đường..
- we
- TỐT
- là
- Điều gì
- khi nào
- liệu
- cái nào
- tại sao
- sẽ
- với
- không có
- Công việc
- thế giới
- năm
- nhưng
- zephyrnet