Meta는 소셜 미디어 플랫폼을 통해 공유되는 AI 생성 이미지를 감지, 식별 및 라벨링하는 도구를 구축하고 있습니다. 또한 온라인 콘텐츠를 자동으로 조정하기 위해 대규모 언어 모델을 테스트하고 있습니다.
화요일에 Meta의 글로벌 문제 사장(및 전 영국 부총리) Nick Clegg는 미국 거대 기업의 자체 텍스트-이미지 AI 모델뿐만 아니라 가공된 자료로 만든 자료를 Facebook, Instagram 및 Threads에 표시할 계획을 발표했습니다. 외부 기계 학습 애플리케이션을 통해. 온라인 콘텐츠가 보이는 것과 다를 수 있으며 출처에 관계없이 사람들을 속이기 위해 AI 도구를 사용하여 발명되었을 수 있다는 점을 네티즌에게 경고하는 아이디어입니다.
클레 말했다 Meta의 엔지니어들은 현재 사진처럼 사실적인 AI 제작 콘텐츠에 "Imagined with AI"라는 캡션을 앱에 태그하는 도구를 개발하고 있으며 앞으로 몇 달에 걸쳐 필요에 따라 이 라벨을 표시할 예정입니다.
내장된 Meta AI 어시스턴트가 생성한 사실적인 이미지는 보이는 마커와 보이지 않는 마커를 사용하여 이미 자동으로 라벨이 지정되어 있다고 합니다. 외부에서 제출된 고품질 AI 제작 자료는 어떤 방식으로든 감지되어 Facebook 거대 앱 제국에서 표시되어야 합니다.
단기적으로 Facebook은 콘텐츠의 출처를 선언하는 제출된 파일 내의 워터마크에 의존할 계획입니다. 이는 해당 표시나 메타데이터를 제거하지 않고 외부 AI 콘텐츠 생성기에 의존하며, 사람들에게 콘텐츠를 정직하게 선언하도록 요청합니다. 미디어를 공유할 때 AI가 생성됩니다.
장기적으로 Meta는 자료가 신경망에 의해 만들어졌는지 여부를 자동으로 식별할 수 있는 분류기를 사용하여 사용자가 제출한 라벨링 및 지원되는 표시를 포함한 생성기에 대한 의존을 피할 계획입니다. 사용자는 위조된 미디어를 사용할 때(그것이 위조된 것을 알더라도) 속여야 할 뿐만 아니라 외부 앱을 사용하여 사람들이 이를 제거하지 않고 컴퓨터로 만든 것으로 올바르게 라벨을 붙일 필요가 있습니다. 소프트웨어 공학에서는 부서지기 쉽다고 말합니다. 이러한 자동 분류기가 원하는 대로 작동한다면 가장 필요합니다.
적어도 현재로서는 오디오와 비디오를 업로드하는 사람들은 해당 자료가 딥페이크인지 실제인지 여부를 분명히 선언해야 합니다. Meta는 AI가 만든 영상과 사운드를 식별할 수 있는 일관된 방법이 아직 없다고 말합니다. 그리고 사진은 Meta AI에 의해 자동으로 표시되거나, 실제 출처를 드러내는 워터마크를 포함하거나, 아마도 사람들이 수동으로 표시할 수 있습니다. 그리고 나중에 이 모든 것이 자동화될 수도 있습니다.
“우리는 사람들이 디지털 방식으로 제작하거나 변경한 사진처럼 사실적인 비디오나 현실적으로 들리는 오디오가 포함된 유기적 콘텐츠를 게시할 때 이 공개 및 라벨 도구를 사용하도록 요구할 것이며, 그렇게 하지 않을 경우 처벌을 받을 수 있습니다.”라고 Clegg 말했다.
메타가 지원하는 워터마킹에는 콘텐츠 출처 및 진위성 연합(Coalition for Content Provenance and Authenticity)의 지원이 포함됩니다.C2PA) 및 국제언론통신협의회(IPTC). 이는 기계 생성 콘텐츠를 더 쉽게 식별할 수 있도록 하기 위해 기술 및 미디어 그룹이 지원하는 업계 이니셔티브입니다. 우리가 이전에 보고한 것처럼 그들은 완벽하지 않으며 패배할 수 있습니다.
AI 콘텐츠를 다루는 Meta의 최신 전략은 콘텐츠 조정 정책을 면밀히 조사하는 독립적인 전문가 패널인 감독 위원회가 조작된 미디어에 대한 현재 규칙이 "일관되지 않다"고 불평한 직후에 나온 것입니다. 이사회는 탐침 작년에 Meta가 디지털 방식으로 변경된 Biden 대통령의 가짜 동영상을 허용하여 자신이 소아성애자라고 주장하는 것을 소셜 네트워크 제국에 유지하기로 결정한 이유에 대해 설명했습니다.
C2PA 및 IPTC 지원 도구 외에도 Meta는 게시물이 정책을 위반하는지 자동으로 판단하는 대규모 언어 모델의 기능을 테스트하고 있습니다.
소셜 미디어 사업부는 자체 데이터를 바탕으로 이러한 시스템을 교육하고 있으며, 소프트웨어가 검토자가 평가해야 하는 콘텐츠를 줄여 더 까다로운 사례에 집중할 수 있다고 믿습니다.
Clegg는 “인간 콘텐츠와 합성 콘텐츠의 차이가 모호해지면서 사람들은 경계가 어디에 있는지 알고 싶어합니다.”라고 말했습니다.
“사람들은 처음으로 AI 생성 콘텐츠를 접하는 경우가 많으며 사용자들은 이 신기술에 대한 투명성을 높이 평가한다고 말했습니다. 우리는 전 세계적으로 수많은 중요한 선거가 열리는 내년에도 이러한 접근 방식을 취할 것입니다.” ®
- SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
- PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
- PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
- 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
- PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
- 출처: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :이다
- :아니
- :어디
- $UP
- 7
- a
- 능력
- 가로질러
- 또한
- 사무
- 후
- AI
- 인공 지능 보조원
- AI 모델
- All
- 수
- 허용
- 이미
- 또한
- 변경
- 및
- 발표
- 어플리케이션
- 신청
- 감사
- 접근
- 앱
- 있군요
- 약
- AS
- 질문
- 평가
- 조수
- At
- 오디오
- 정품
- 자동화
- 자동적으로
- 피하고
- 인식
- 떨어져
- 뒷받침 된
- BE
- 된
- 존재
- 믿으세요
- 사이에
- biden
- 비즈
- 판
- 경계
- 건물
- 내장
- 비자 면제 프로그램에 해당하는 국가의 시민권을 가지고 있지만
- by
- CAN
- 가지 경우
- 청구
- CO
- 연합
- 왔다
- 오는
- 일관된
- 함유량
- 바르게
- 수
- 이사회
- 만들어진
- 만든
- Current
- 절단
- 절단
- 데이터
- 결정된
- 선언
- 명확히
- 대리인
- 원하는
- 검색
- 탐지 된
- Detection System
- 결정
- 개발
- 차이
- 디지털
- 분별
- 폭로
- do
- 아래 (down)
- ...동안
- 쉽게
- Edge
- 중
- 선거
- 제국
- 엔지니어링
- 엔지니어
- 조차
- EVER
- 전문가
- 외부
- 페이스북
- 실패
- 모조품
- FB
- 파일
- 먼저,
- 처음으로
- 신고 된
- 초점
- 럭셔리
- 이전
- 에
- 발전기
- 가져옵니다
- 거대한
- 글로벌
- 여러 떼
- 했다
- 있다
- he
- 높은 품질의
- 정직하게
- HTTPS
- 사람의
- 생각
- 확인
- if
- 영상
- 형상
- 상상 한
- 중대한
- in
- 포함
- 포함
- 포함
- 독립
- 산업
- 이니셔티브
- 내부
- 인스타그램
- 의도하다
- 국제 노동자 동맹
- 으로
- 발명
- 눈에 보이지 않는
- Isn
- IT
- 그
- JPG
- 다만
- 알아
- 라벨
- 레이블링
- 언어
- 넓은
- 성
- 작년
- 후에
- 최근
- 시작
- 가장 작은
- 거짓
- ll
- 긴
- 만든
- 확인
- 조작
- 수동으로
- 두드러진
- 자료
- XNUMX월..
- 미디어
- 메타
- 메타 데이터
- 모델
- 중간
- 절도
- 개월
- 가장
- 필요한
- 필요
- 필요
- 요구
- 네트워크
- 신경의
- 신경망
- 신제품
- 다음 것
- 닉
- 지금
- 번호
- of
- 자주
- on
- 온라인
- 만
- or
- 유기적인
- 우리의
- 아웃
- 외부
- 위에
- 감시
- 자신의
- 패널
- 처벌
- 사람들
- 영화
- 장소
- 계획
- 플랫폼
- 플라톤
- 플라톤 데이터 인텔리전스
- 플라토데이터
- 정책
- 게시하다
- 대통령
- 비든 대통령
- 키를 눌러
- 이전에
- 청춘
- 기원
- RE
- 현실
- 관계없이
- 신뢰
- 의지하다
- 의지
- 보고
- 필요
- 공개
- 연락해주세요
- 규칙
- s
- 말했다
- 라고
- 라고
- 것
- 공유
- 공유
- 짧은
- 표시
- So
- 사회적
- 소셜 미디어
- 소셜 미디어 플랫폼
- 소셜 네트워크
- 소프트웨어
- 소프트웨어 공학
- 일부
- 소리
- 출처
- 유지
- 전략들
- 제출
- 이러한
- 지원
- 지원
- 인조
- 시스템은
- 태클
- TAG
- 복용
- Technology
- 통신
- 기간
- 지원
- 그
- XNUMXD덴탈의
- 소스
- 세계
- 그들
- 그곳에.
- Bowman의
- 그들
- 이
- 그
- 을 통하여
- 그러므로
- 시간
- 에
- 이야기
- 수단
- 검색을
- 트레이닝
- 투명도
- 참된
- 시도
- 노력
- 화요일
- Uk
- 업로드
- us
- 사용
- 사용자
- 사용
- Ve
- 를 통해
- Video
- 눈에 보이는
- 필요
- 였다
- 워터 마킹
- 워터 마크
- 방법..
- we
- 잘
- 했다
- 뭐
- 언제
- 여부
- 어느
- why
- 의지
- 과
- 없이
- 작업
- 세계
- year
- 아직
- 제퍼 넷