Meta construiește instrumente pentru a detecta, identifica și eticheta imaginile generate de inteligență artificială partajate prin intermediul platformelor sale de socializare. De asemenea, testează modele de limbă mari pentru a modera automat conținutul online.
Marți, președintele pentru afaceri globale al lui Meta (și fostul prim-ministru adjunct al Marii Britanii), Nick Clegg, a anunțat că intenționează să semnaleze pe Facebook, Instagram și Threads materialele create nu numai de modelele AI text-la-imagine ale gigantului american, ci și de materiale create. prin aplicații externe de învățare automată. Ideea este de a avertiza internauții că este posibil ca lucrurile online să nu fie ceea ce par și că ar fi fost inventate folosind instrumente AI pentru a păcăli oamenii, indiferent de sursa lor.
Clegg a spus inginerii de la Meta dezvoltă acum instrumente pentru a eticheta conținutul foto-realist creat de AI cu legenda „Imaginat cu AI” în aplicațiile sale și vor afișa această etichetă după cum este necesar în lunile următoare.
Imaginile foto-realiste create de asistentul Meta AI încorporat sunt deja etichetate automat ca atare, folosind markeri vizibili și invizibili, ni s-a spus. Lucrurile de înaltă calitate create de AI care sunt trimise din exterior trebuie, de asemenea, să fie detectate într-un fel și marcate ca atare în imperiul de aplicații al gigantului Facebook.
Pe termen scurt, Facebook intenționează să se bazeze pe filigrane din fișierele trimise care declară sursa conținutului – care se bazează pe generatori externi de conținut AI, inclusiv acele marcaje sau metadate, fără ca acestea să fie eliminate – și, de asemenea, le cere oamenilor să declare sincer lucrurile ca Generat de inteligență artificială atunci când partajați conținut media.
Pe termen lung, Meta intenționează să utilizeze clasificatoare care pot discerne automat dacă materialul a fost realizat de o rețea neuronală sau nu, evitând astfel această dependență de etichetarea și generatoarele trimise de utilizator, inclusiv marcajele acceptate. Această necesitate ca utilizatorii să „mărturisească atunci când folosesc medii falsificate – dacă chiar sunt conștienți că este falsificat – precum și să se bazeze pe aplicațiile externe pentru a eticheta corect lucrurile ca fiind făcute de computer, fără ca acestea să fie eliminate de către oameni. să zicem în inginerie software, fragil. Acele clasificatoare automate, dacă funcționează vreodată așa cum se dorește, sunt cele mai necesare.
Cel puțin pentru moment, oamenii care încarcă audio și video vor trebui cu siguranță să declare dacă acel material este fals sau real, deoarece Meta spune că nu există încă o modalitate consistentă de a identifica imaginile și sunetul realizat de AI; iar imaginile fie sunt marcate automat de Meta AI, includ filigrane care dezvăluie adevărata sursă sau, probabil, pot fi semnalate manual de către oameni. Și mai târziu, totul poate fi automatizat.
„Vom cere oamenilor să folosească acest instrument de dezvăluire și etichetare atunci când postează conținut organic cu un videoclip foto-realist sau un sunet realist care a fost creat sau modificat digital și putem aplica sancțiuni dacă nu fac acest lucru”, Clegg. a spus.
În ceea ce privește suporturile meta de filigranare, acestea includ pe cele ale Coaliției pentru Proveniența și Autenticitatea conținutului (C2PA) și Consiliul Internațional de Telecomunicații de Presă (IPTC). Acestea sunt inițiative din industrie susținute de grupuri tehnologice și media care încearcă să faciliteze identificarea conținutului generat de mașini. Nu sunt siguri și pot fi învinși așa cum am raportat anterior.
Cele mai recente strategii ale Meta de abordare a conținutului AI vin imediat după ce Consiliul său de Supraveghere, un grup de experți independenți care examinează politicile sale de moderare a conținutului, s-a plâns că regulile actuale privind mass-media manipulate sunt „incoerente”. Consiliul a lansat a sondă anul trecut, de ce Meta a decis să permită un videoclip fals al președintelui Biden, care a fost modificat digital, pentru a pretinde că este pedofil să rămână pe imperiul rețelei sociale.
Pe lângă instrumentele susținute de C2PA și IPTC, Meta testează capacitatea modelelor mari de limbi de a determina automat dacă o postare încalcă politicile sale.
Întreprinderea de social media antrenează aceste sisteme pe propriile date și consideră că software-ul ar putea reduce conținutul care trebuie evaluat de recenzenții umani, permițându-le să se concentreze pe cazuri mai complicate.
„Pe măsură ce diferența dintre conținutul uman și sintetic devine estompată, oamenii vor să știe unde se află granița”, a spus Clegg.
„Oamenii întâlnesc adesea conținut generat de inteligență artificială pentru prima dată, iar utilizatorii noștri ne-au spus că apreciază transparența în jurul acestei noi tehnologii. Luăm această abordare în anul următor, în timpul căruia au loc o serie de alegeri importante în întreaga lume.” ®
- Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
- PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
- PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
- PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
- PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
- Sursa: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :este
- :nu
- :Unde
- $UP
- 7
- a
- capacitate
- peste
- plus
- afaceri
- După
- AI
- Asistent AI
- Modele AI
- TOATE
- permite
- Permiterea
- deja
- de asemenea
- modificate
- și
- a anunțat
- aplicatii
- Aplică
- aprecia
- abordare
- Apps
- SUNT
- în jurul
- AS
- solicitând
- evaluat
- Asistent
- At
- audio
- autenticitate
- Automata
- în mod automat
- evitarea
- conştient
- departe
- sprijinit
- BE
- fost
- fiind
- Crede
- între
- biden
- biz
- bord
- graniţă
- Clădire
- construit-in
- dar
- by
- CAN
- cazuri
- pretinde
- CO
- coaliţie
- cum
- venire
- consistent
- conţinut
- corect
- ar putea
- Consiliu
- fabricat
- a creat
- Curent
- Tăiat
- tăiere
- de date
- hotărât
- declară
- categoric
- adjunct
- dorit
- detecta
- detectat
- Detectare
- Determina
- în curs de dezvoltare
- diferenţă
- digital
- discerne
- dezvăluire
- do
- jos
- în timpul
- mai ușor
- Margine
- oricare
- Alegeri
- Empire
- Inginerie
- inginerii
- Chiar
- EVER
- experți
- extern
- FAIL
- fals
- FB
- Fişiere
- First
- prima dată
- fanionat
- Concentra
- Pentru
- Fost
- din
- Generatoare
- devine
- gigant
- Caritate
- Grupului
- HAD
- Avea
- he
- de înaltă calitate
- Sincer
- HTTPS
- uman
- idee
- identifica
- if
- imagine
- imagini
- imaginat
- important
- in
- include
- include
- Inclusiv
- independent
- industrie
- inițiative
- în interiorul
- intenționează
- Internațional
- în
- Inventat
- invizibil
- ISN
- IT
- ESTE
- jpg
- doar
- Cunoaște
- Etichetă
- etichetarea
- limbă
- mare
- Nume
- Anul trecut
- mai tarziu
- Ultimele
- a lansat
- cel mai puțin
- se află
- ll
- Lung
- făcut
- face
- manipulat
- manual
- marcat
- material
- Mai..
- Mass-media
- meta
- Metadata
- Modele
- moderată
- moderare
- luni
- cele mai multe
- necesar
- Nevoie
- necesar
- nevoilor
- reţea
- neural
- rețele neuronale
- Nou
- următor
- nick
- acum
- număr
- of
- de multe ori
- on
- on-line
- afară
- or
- organic
- al nostru
- afară
- exterior
- peste
- Supraveghere
- propriu
- panou
- penalități
- oameni
- poze
- Loc
- Planurile
- Platforme
- Plato
- Informații despre date Platon
- PlatoData
- Politicile
- Post
- preşedinte
- președinte biden
- presa
- în prealabil
- Prim
- proveniență
- RE
- real
- Fără deosebire
- încredere
- se bazează
- bazându-se
- Raportat
- necesita
- dezvălui
- dreapta
- norme
- s
- Said
- Spune
- spune
- pare
- comun
- partajarea
- Pantaloni scurți
- Arăta
- So
- Social
- social media
- platforme de socializare
- reţea socială
- Software
- Inginerie software
- unele
- Suna
- Sursă
- şedere
- strategii
- prezentat
- astfel de
- Suportat
- Sprijină
- sintetic
- sisteme
- tackling
- TAG
- luare
- Tehnologia
- de telecomunicaţii
- durată
- Testarea
- acea
- Sursa
- lumea
- Lor
- Acolo.
- Acestea
- ei
- acest
- aceste
- Prin
- Prin urmare
- timp
- la
- a spus
- instrument
- Unelte
- Pregătire
- Transparență
- adevărat
- încerca
- încercat
- marţi
- Uk
- Se încarcă
- us
- utilizare
- utilizatorii
- folosind
- Ve
- de
- Video
- vizibil
- vrea
- a fost
- filigranare
- filigrane
- Cale..
- we
- BINE
- au fost
- Ce
- cand
- dacă
- care
- de ce
- voi
- cu
- fără
- Apartamente
- lume
- an
- încă
- zephyrnet