Meta rakentaa työkaluja tunnistamaan, tunnistamaan ja merkitsemään tekoälyn luomia kuvia, jotka jaetaan sen sosiaalisen median alustoilla. Se myös testaa suuria kielimalleja valvoakseen sisältöä automaattisesti verkossa.
Tiistaina Metan globaalien asioiden johtaja (ja entinen Yhdistyneen kuningaskunnan varapääministeri) Nick Clegg ilmoitti suunnitelmistaan ilmoittaa Facebookissa, Instagramissa ja Threadsissa materiaalia, joka ei ole luotu pelkästään yhdysvaltalaisen jättiläisen omilla tekstistä kuvaksi tekoälymalleilla, vaan myös itse luoduilla materiaaleilla. ulkopuolisilla koneoppimissovelluksilla. Ajatuksena on varoittaa verkkovieraita, että verkossa olevat asiat eivät välttämättä ole sitä, miltä näyttää, ja ne on saatettu keksiä tekoälytyökalujen avulla ihmisten huijaamiseen niiden lähteestä riippumatta.
Clegg sanoi Metan insinöörit kehittävät parhaillaan työkaluja, joilla voidaan merkitä valokuvarealistinen tekoälyllä tehty sisältö tekstillä "Imagined with AI" sen sovelluksiin, ja näyttävät tämän tarran tarvittaessa tulevien kuukausien aikana.
Sisäänrakennetun Meta AI -avustajan luomat valokuvarealistiset kuvat on jo automaattisesti merkitty sellaisiksi käyttämällä näkyviä ja näkymättömiä merkkejä, meille kerrotaan. Se on ulkopuolelta lähetetty korkealaatuinen tekoälyllä tehty tavara, joka on myös jollain tavalla tunnistettava ja merkittävä sellaiseksi Facebook-jättiläisen sovellusimperiumissa.
Lyhyellä aikavälillä Facebook aikoo luottaa lähetettyjen tiedostojen sisällä oleviin vesileimoihin, jotka ilmoittavat sisällön lähteen – joka perustuu ulkoisiin tekoälysisällön luojiin, mukaan lukien kyseiset merkinnät tai metatiedot, ilman että niitä poistetaan – ja pyytää myös ihmisiä ilmoittamaan asiat rehellisesti Tekoäly luo mediaa jaettaessa.
Pitkällä aikavälillä Meta aikoo käyttää luokittimia, jotka pystyvät automaattisesti erottamaan, onko materiaali hermoverkon tuottamaa vai ei, jolloin vältetään riippuvuus käyttäjän toimittamiin merkintöihin ja generaattoreihin, mukaan lukien tuetut merkinnät. Käyttäjien tarve "herästyä käyttäessään väärennettyä mediaa – jos he edes tietävät sen olevan väärennetty" – sekä luottaa ulkopuolisiin sovelluksiin, jotka merkitsevät tavarat oikein tietokoneella tehdyiksi ilman, että ihmiset poistavat niitä. sanotaan ohjelmistosuunnittelussa, hauras. Niitä automaattisia luokittimia, jos ne koskaan toimivat niin hyvin kuin halutaan, tarvitaan eniten.
Ainakin toistaiseksi ääntä ja videota lataavien ihmisten on ehdottomasti ilmoitettava, onko materiaali syvästi väärennettyä vai aitoa, sillä Metan mukaan sillä ei ole vielä johdonmukaista tapaa tunnistaa tekoälyllä tehtyä materiaalia ja ääntä; ja kuvat ovat joko automaattisen Meta AI:n merkitsemiä, sisältävät vesileimoja, jotka paljastavat todellisen lähteen, tai ihmiset voivat oletettavasti merkitä ne manuaalisesti. Ja myöhemmin tämä kaikki voidaan automatisoida.
"Vaadimme ihmisiä käyttämään tätä ilmoitus- ja merkintätyökalua, kun he julkaisevat orgaanista sisältöä valokuvarealistisen videon tai realistiselta kuulostavan äänen kanssa, joka on luotu tai muutettu digitaalisesti, ja voimme määrätä rangaistuksia, jos he eivät tee niin", Clegg sanoi.
Mitä tulee Meta-vesileimatukeen, mukaan lukien sisällön alkuperän ja aitouden koalitio (C2PA) ja International Press Telecommunications Council (IPTC). Nämä ovat teknologia- ja mediaryhmien tukemia alan aloitteita, jotka yrittävät helpottaa koneellisesti luodun sisällön tunnistamista. Ne eivät ole idioottivarmoja ja ne voidaan voittaa, kuten olemme aiemmin raportoineet.
Metan viimeisimmät tekoälysisältöä koskevat strategiat tulivat heti sen jälkeen, kun sen sisällönvalvontakäytäntöjä tarkasteleva riippumattomien asiantuntijoiden paneeli Oversight Board valitti, että manipuloitua mediaa koskevat nykyiset säännöt olivat "epäjohdonmukaisia". Hallitus käynnisti a anturi viime vuonna miksi Meta päätti sallia presidentti Bidenin digitaalisesti muunnetun valevideon, joka väitti hänen olevan pedofiili, jäädä sen sosiaalisten verkostojen imperiumiin.
C2PA- ja IPTC-tuettujen työkalujen lisäksi Meta testaa suurten kielimallien kykyä määrittää automaattisesti, rikkooko viesti sen käytäntöjä.
Sosiaalisen median yritys kouluttaa näitä järjestelmiä omiin tietoihinsa ja uskoo, että ohjelmistot voivat vähentää sisältöä, joka ihmisten arvioijien on arvioitava, jolloin he voivat keskittyä hankalampiin tapauksiin.
"Kun ero ihmisen ja synteettisen sisällön välillä hämärtyy, ihmiset haluavat tietää, missä raja menee", Clegg sanoi.
"Ihmiset törmäävät usein tekoälyn luomaan sisältöön ensimmäistä kertaa, ja käyttäjämme ovat kertoneet meille, että he arvostavat tämän uuden teknologian läpinäkyvyyttä. Otamme tämän lähestymistavan läpi ensi vuoden, jonka aikana järjestetään useita tärkeitä vaaleja ympäri maailmaa. ®
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2024/02/06/meta_ai_label/
- :On
- :ei
- :missä
- $ YLÖS
- 7
- a
- kyky
- poikki
- Lisäksi
- Asioiden
- Jälkeen
- AI
- AI avustaja
- AI-mallit
- Kaikki
- sallia
- Salliminen
- jo
- Myös
- muuttunut
- ja
- ilmoitti
- sovellukset
- käyttää
- arvostaa
- lähestymistapa
- sovellukset
- OVAT
- noin
- AS
- pyytäminen
- arvioitu
- Avustaja
- At
- audio-
- aitous
- Automatisoitu
- automaattisesti
- välttämällä
- tietoinen
- pois
- Tukena
- BE
- ollut
- ovat
- Uskoa
- välillä
- Biden
- biz
- hallitus
- raja
- Rakentaminen
- sisäänrakennettu
- mutta
- by
- CAN
- tapauksissa
- vaatia
- CO
- koalitio
- Tulla
- tuleva
- johdonmukainen
- pitoisuus
- oikein
- voisi
- neuvosto
- muotoillun
- luotu
- Nykyinen
- Leikkaus
- leikkaus
- tiedot
- päätti
- julistaa
- ehdottomasti
- sijainen
- haluttu
- havaita
- havaittu
- Detection
- Määrittää
- kehittämällä
- ero
- digitaalisesti
- DISCERN
- ilmitulo
- do
- alas
- aikana
- helpompaa
- reuna
- myöskään
- Vaalit
- Imperiumi
- Tekniikka
- Engineers
- Jopa
- EVER
- asiantuntijat
- ulkoinen
- FAIL
- väärennös
- FB
- Asiakirjat
- Etunimi
- ensimmäistä kertaa
- Merkityt
- Keskittää
- varten
- Entinen
- alkaen
- generaattorit
- saa
- jättiläinen
- Global
- Ryhmän
- HAD
- Olla
- he
- korkealaatuisia
- Rehellisesti
- HTTPS
- ihmisen
- ajatus
- tunnistaa
- if
- kuva
- kuvien
- kuvitellut
- tärkeä
- in
- sisältää
- sisältää
- Mukaan lukien
- itsenäinen
- teollisuus
- aloitteita
- sisällä
- aikoo
- kansainvälisesti
- tulee
- keksi
- näkymätön
- ISN
- IT
- SEN
- jpg
- vain
- Tietää
- Merkki
- merkinnät
- Kieli
- suuri
- Sukunimi
- Viime vuonna
- myöhemmin
- uusin
- käynnistettiin
- vähiten
- piilee
- ll
- Pitkät
- tehty
- tehdä
- manipuloitu
- käsin
- merkitty
- materiaali
- Saattaa..
- Media
- Meta
- Metadata
- mallit
- kohtalainen
- maltillisuus
- kk
- eniten
- välttämätön
- Tarve
- tarvitaan
- tarpeet
- verkko
- hermo-
- neuroverkkomallien
- Uusi
- seuraava
- Nick
- nyt
- numero
- of
- usein
- on
- verkossa
- vain
- or
- orgaaninen
- meidän
- ulos
- ulkopuolella
- yli
- erehdys
- oma
- paneeli
- seuraamukset
- Ihmiset
- kuvat
- Paikka
- suunnitelmat
- Platforms
- Platon
- Platonin tietotieto
- PlatonData
- politiikkaa
- Kirje
- puheenjohtaja
- presidentti Biden
- painaa
- aiemmin
- tärkein
- alkuperä
- RE
- todellinen
- riippumatta
- riippuvuus
- luottaa
- luottaen
- raportoitu
- edellyttää
- paljastaa
- oikein
- säännöt
- s
- Said
- sanoa
- sanoo
- näyttää
- yhteinen
- jakaminen
- Lyhyt
- näyttää
- So
- sosiaalinen
- sosiaalinen media
- sosiaalisen median alustoja
- sosiaalinen verkosto
- Tuotteemme
- ohjelmistotuotanto
- jonkin verran
- kuulostaa
- lähde
- pysyä
- strategiat
- toimitettu
- niin
- Tuetut
- Tukee
- synteettinen
- järjestelmät
- puuttumalla
- TAG
- ottaen
- Elektroniikka
- tietoliikenne
- termi
- Testaus
- että
- -
- Lähde
- maailma
- Niitä
- Siellä.
- Nämä
- ne
- tätä
- ne
- Kautta
- Näin
- aika
- että
- kertoi
- työkalu
- työkalut
- koulutus
- Läpinäkyvyys
- totta
- yrittää
- yrittää
- tiistai
- Uk
- Ladataan
- us
- käyttää
- Käyttäjät
- käyttämällä
- Ve
- kautta
- Video
- näkyvä
- haluta
- oli
- vesileimaus
- vesileimat
- Tapa..
- we
- HYVIN
- olivat
- Mitä
- kun
- onko
- joka
- miksi
- tulee
- with
- ilman
- Referenssit
- maailman-
- vuosi
- vielä
- zephyrnet