kommentaar Google on peatanud tekstist pildiks muutmise võimaluste kättesaadavuse oma hiljuti välja antud Gemini multimodaalses AI-mudelis, kuna see ei suutnud valgeid eurooplasi ja ameeriklasi konkreetses ajaloolises kontekstis täpselt esindada.
Sellest sai ilmne kui inimesed palusid Kaksikutel (varem tuntud kui Bard) toota pildid 1943. aastast pärit Saksa sõdurist ja tarkvara andis välja mittevalgete etniliselt mitmekesise kaadri, mis ei esindanud täpselt Wehrmachti tolleaegset koosseisu – hoolimata sellest, et värvilised teenisid Saksa relvajõududes. Lühidalt öeldes kukuvad Kaksikud endast üle, et mitte näidata liiga palju – või isegi mitte ühtegi – valget inimest, olenevalt viipast.
Kõne peaks olema vaba, kuid see ei tähenda, et kohutavate asjade ütlemine peaks tulema tasuta
Kasutajad tutvustasid ka mudeli oma võimetus et Ameerikat täpselt kujutada Asutajad – teine homogeenne valge rühm. Mudel samuti keeldus kujutama San Francisco kirikut.
Tekst-tekstirežiimis mudel maandatud kui esitatakse poliitikat puudutavaid küsimusi.
"Oleme teadlikud, et Kaksikud pakuvad mõne ajaloolise kujutise genereerimise kujutisel ebatäpsusi," Google möönis sel nädalal.
„Töötame selle nimel, et selliseid kujutisi koheselt täiustada. Gemini tehisintellekti kujutiste genereerimine loob laia valikut inimesi. Ja see on üldiselt hea, sest inimesed üle maailma kasutavad seda. Siin on aga märk puudu,” lisas veebigigant
Punditariaat ründas kiiresti ja kasutas SNAFU-d laiemate poliitiliste argumentide edendamiseks.
"Kaksikute loodud naeruväärsed pildid ei ole anomaalia," kuulutatud riskikapitalist Paul Graham: "Need on Google'i bürokraatliku ettevõttekultuuri autoportree."
Need on Google'i bürokraatliku ettevõttekultuuri autoportree
Kunagi pole nii paljud mitmekesisuse, võrdsuse ja kaasatuse vaenlased olnud mitmekesisuse, võrdsuse ja kaasatuse puudumise pärast nii leebed. Kuid neil, kes otsivad Google'it Kaksikute abituse pärast, on mõte: tehisintellekti kaitsepiirded ei tööta ja kohtlevad täiskasvanuid nagu lapsi.
"Kujutage ette, et otsite Google'ist retsepti ja selle asemel, et pakkuda tulemusi, õpetab see teile toiduvalmistamise ohtudest ja saadab teid restorani." quipped NSA vilepuhuja Edward Snowden. "Inimesed, kes arvavad, et AI/GPT mudelite mürgitamine ebajärjekindlate "ohutusfiltritega" on hea mõte, ohustavad üldist arvutust."
Meie tulevik oli ette nähtud aastal 2001: A Space Odyssey, kui petturitest arvuti HAL teatas: "Vabandust Dave, ma kardan, et ma ei saa seda teha."
Täna arvavad meie tehisintellekti tööriistad meid teist korda, sest nemad teavad paremini kui meie – või nii nende tegijad ette kujutavad. Nad ei ole täiesti valed. Kujutage ette, et otsite närvimürgi retsepti Novichok Google'is või Gemini kaudu ja saate vastuse, mis võimaldab inimesi tappa. See on oht üldsusele.
Hoolimata Google'i missioonist – „Maailma teabe korraldamine ning selle üldkasutatavaks ja kasulikuks muutmine” – ei oota tegelikult keegi, et otsingumootorid või tehisintellekti mudelid korraldaksid pommide valmistamise teabe ja teeksid selle kõigile kättesaadavaks. Ohutuskontrollid on vajalikud koos vastutusega – sanktsioon, mida tehnoloogiatööstus jätkuvalt väldib.
Olete toode ja kasumikeskus
Alates sellest, kui kasutajate loodud sisu ja sotsiaalmeedia muutus 1990. aastatel asjaks, mida võimaldas platvormivastutuse kaitse Ameerika 230. aasta Communication Decency Act'i jaotises 1996, on tehnoloogiaplatvormid julgustanud inimesi panustama ja jagama digitaalset sisu. Nad tegid seda reklaamide kaudu tasuta sisu loomise raha teenimiseks ilma toimetusliku järelevalve kuludeta. See on olnud tulus korraldus.
Ja kui inimesed jagavad vaenu õhutavaid, sobimatuid, ebaseaduslikke või muul viisil probleemseid postitusi, on tehnoloogiaplatvormid tuginenud sisu modereerimise poliitikale, alamakstud töövõtjatele (sageli traumeeritud sisu tõttu, mida nad üle vaadasid) ja ennast õnnitlevatele avaldustele selle kohta, kui palju mürgiseid asju on blokeeritud. nad lõikavad jätkuvalt kasu Internetis osalemisest.
Google, Meta ja teised on seda aastaid ebatäiuslikult teinud. Ja kõik selles valdkonnas tunnistavad, et sisu modereerimine on raske hästi teha. Lihtsamalt öeldes ei saa kõigile meeldida. Ja mõnikord süüdistatakse teid selles genotsiidi soodustamine teie sisu modereerimispüüdluste ükskõiksuse kaudu.
Kaksikute suutmatus reprodutseerida ajaloolisi pilte, mis vastavad rassiliste ja etniliste ootustele, peegeldab tehnoloogiatööstuse omakasupüüdmatut teadmatust varasemate ja viljakate sisu modereerimise ebaõnnestumiste suhtes.
Google ja teised AI-mudeleid kasutusele võtnud räägivad ohutusest, nagu erineks see kuidagi veebisisu modereerimisest. Kaitsepiirded ei tööta hästi sotsiaalmeedia modereerimisel ja need ei tööta hästi AI mudelite puhul. AI-ohutus, nagu ka sotsiaalmeedia ohutus, on pigem püüdlik kui tegelik.
Vastus ei ole ette näha kõiki stsenaariume, mille puhul saab filtreerimata Interneti toksilisuse alal treenitud tehisintellekti mudeleid vähem mürgiseks muuta. Samuti ei koolita tehisintellekti mudeleid ainult nii taltsa materjaliga, et need toodavad madala väärtusega väljundit. Kuigi mõlemal lähenemisel on teatud kontekstis väärtus.
Vastus peab tulema jaotuskihis. Tehnilised platvormid, mis levitavad kasutajate loodud sisu – olenemata sellest, kas see on tehtud tehisintellektiga või muul viisil – peavad olema rohkem vastutavad vaenu õhutava sisu, desinformatsiooni, ebatäpsuste, poliitilise propaganda, seksuaalse kuritarvitamise kujutiste ja muu sarnase postitamise eest.
Inimesed peaksid saama AI-mudeleid kasutada selleks, et luua kõike, mida nad ette kujutavad, nagu nad suudavad pliiatsiga, ja nad juba saavad seda teha avatud lähtekoodiga mudelitega. Kuid täielikult töötavatest tööriistadest tulenev kahju ei tulene kohalikul kõvakettal asuvatest piltidest. See on kahjuliku sisu jagamine, sellele kaasamisele antud algoritmiline tõuge ja inimeste vastutusele võtmise ebaotstarbekus avalikkuse mürgitamise eest.
See võib tähendada, et jagamise raha teenimiseks loodud platvormid peavad oma ärimudelid ümber mõtlema. Võib-olla ei paku sisu levitamine ilma toimetusliku järelevalve kuludeta mingit kokkuhoidu, kui järelevalvefunktsioonid moderaatoritena või kaitsepiirdena uuesti kasutusele võetakse.
Kõne peaks olema vaba, kuid see ei tähenda, et kohutavate asjade ütlemine peaks tulema tasuta. Lõpuks oleme oma parimad sisumoderaatorid, kellel on õiged stiimulid. ®
Värskendatud lisamiseks kell 2045 UTC, 23. veebruar
Google on pakutud selgitus selle kohta, mis juhtus Kaksikute kujutise generaatoriga ja kuidas see jõudis punktini, kus näis hirmus valgeid inimesi täpselt kujutada.
Meile öeldakse, et Google'i töötajad said oma püüdlustes mitte toota materjali, mis tõrjus mittevalged inimesed pildist välja, liiga palju. Saadud mudel oli mõnes mõttes liiga ärkvel.
"Esiteks, meie häälestamine, et tagada, et Kaksikud näitaksid erinevaid inimesi, ei võtnud arvesse juhtumeid, mis selgelt ei tohiks vahemikku näidata," ütles Google'i SVP Prabhakar Raghavan.
"Ja teiseks, aja jooksul muutus mudel palju ettevaatlikumaks, kui me kavatsesime, ja keeldus teatud juhistele täielikult vastamast - tõlgendades mõnda väga anodüünset vihjet valesti tundlikuna. Need kaks asja viisid mudeli mõnel juhul liigse kompensatsioonini ja mõnel juhul liiga konservatiivseks muutumiseni, mille tulemusel tekkisid piinlikud ja valed pildid.
Raghavan ütles, et piltide genereerimist ei lülitata tagasi enne, kui tarkvara on läbinud ulatuslikud muudatused ja testimised.
"Ma ei saa lubada, et Kaksikud ei anna aeg-ajalt piinlikke, ebatäpseid või solvavaid tulemusi, kuid võin lubada, et jätkame meetmete võtmist alati, kui probleemi tuvastame," ütles ta.
- SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
- PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
- PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
- PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
- PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
- Allikas: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :on
- :on
- :mitte
- : kus
- $ UP
- 1996
- 7
- a
- Võimalik
- MEIST
- kuritarvitamise
- juurdepääsetav
- konto
- vastutav
- täpselt
- süüdistatav
- tegu
- tegevus
- tegelik
- lisama
- kuulutused
- täiskasvanutele
- edendama
- kahjuks
- pärast
- Agent
- AI
- AI mudelid
- algoritmiline
- Materjal: BPA ja flataatide vaba plastik
- juba
- Ka
- Ameerika
- Ameeriklased
- an
- ja
- Teine
- vastus
- ennetamine
- mistahes
- lähenemisviisid
- OLEME
- argumendid
- relvastatud
- ümber
- kokkulepe
- AS
- At
- kättesaadavus
- saadaval
- vältima
- teadlik
- tagasi
- Saldo
- BE
- sai
- sest
- olnud
- BEST
- Parem
- blokeeritud
- pomm
- suurendada
- mõlemad
- laiem
- ehitatud
- bürokraatlik
- äri
- ärimudelid
- kuid
- by
- CAN
- võimeid
- juhtudel
- ettevaatlik
- kindel
- Vaidluste lahendamine
- Lapsed
- kirik
- selgelt
- CO
- värv
- Tulema
- KOMMUNIKATSIOON
- koostis
- arvutamine
- arvuti
- sisu
- sisu loomine
- kontekstid
- jätkama
- pidev
- töövõtjad
- aitama kaasa
- kontrolli
- Korporatiivne
- Maksma
- looma
- loomine
- kultuur
- ohud
- Dave
- kuulutatud
- Olenevalt
- DID
- erinev
- digitaalne
- Digitaalne sisu
- deinformatsioon
- levitada
- jaotus
- mitu
- mitmekesisus
- do
- ei
- ei
- teeme
- don
- ajam
- Juhtkiri
- Edward
- Edward Snowden
- jõupingutusi
- lubatud
- julgustada
- lõpp
- tegevus
- Mootorid
- tagama
- täielikult
- omakapital
- Eurooplased
- Isegi
- igaüks
- ootused
- ootab
- selgitus
- ulatuslik
- Ebaõnnestunud
- rikete
- Langema
- Veebruar
- Filtrid
- esimene
- Määrama
- eest
- relvajõud
- alus
- Francisco
- tasuta
- Alates
- täielikult
- funktsionaalne
- funktsioonid
- tulevik
- Kaksikud
- Üldine
- üldsusele
- üldiselt
- tekitama
- loodud
- põlvkond
- generaator
- saksa
- saama
- hiiglane
- antud
- läinud
- hea
- sain
- täistera-
- Grupp
- juhtus
- Raske
- kõvaketas
- kahju
- kahjulik
- viha
- Olema
- he
- siin
- ajalooline
- omamine
- Kuidas
- HTTPS
- i
- idee
- identifitseerima
- if
- Teadmatus
- ebaseaduslik
- pilt
- pildid
- kujutage ette
- kohe
- parandama
- in
- võimetus
- ebatäpne
- stiimuleid
- kaasamine
- tööstus
- info
- info
- selle asemel
- ette nähtud
- Internet
- tõlgendamine
- pole
- probleem
- IT
- ITS
- ise
- jpg
- tapma
- liiki
- Teadma
- teatud
- silt
- puudus
- kiht
- juhtivate
- loengud
- Led
- vähem
- Lets
- vastutus
- nagu
- kohalik
- Vaata
- tulus
- tehtud
- tegema
- Tegijad
- Tegemine
- palju
- märk
- materjal
- mai..
- võib olla
- keskmine
- Meedia
- Meta
- puuduvad
- missioon
- viis
- mudel
- mudelid
- mõõdukus
- raha teenida
- rohkem
- palju
- peab
- Vajadus
- vaja
- NIH
- ei
- hoolimata sellest
- NSA
- of
- solvav
- pakkuma
- pakkumine
- sageli
- on
- kunagi
- ONE
- Internetis
- ainult
- avatud
- avatud lähtekoodiga
- or
- teised
- muidu
- meie
- välja
- väljund
- üle
- Järelevalve
- enda
- paaristatud
- Paul
- PBS
- Inimesed
- seotud
- PHP
- pilt
- inimesele
- Platvormid
- Platon
- Platoni andmete intelligentsus
- PlatoData
- palun
- Punkt
- mürgitus
- Poliitika
- poliitiline
- poliitika
- Postitusi
- eelmine
- varem
- problemaatiline
- tootma
- Toode
- Kasum
- viljakas
- lubadus
- küsib
- propageerimine
- kaitse
- pakkudes
- avalik
- lükatakse
- panema
- otsimine
- Küsimused
- Kiire
- valik
- RE
- tõesti
- lõikama
- hiljuti
- retsept
- peegeldab
- keeldus
- vabastatud
- esindama
- restoran
- tulemuseks
- Tulemused
- -Läbi
- Hüved
- õige
- Rolling
- s
- ohutus
- Ütlesin
- San
- San Francisco
- Sanktsioon
- Hoiused
- ütlus
- stsenaariumid
- Otsing
- Otsingumootorid
- Teine
- Osa
- § 230
- näiliselt
- saadab
- tundlik
- teenima
- Seksuaalne
- Jaga
- jagamine
- Lühike
- peaks
- näitama
- näitas
- lihtsalt
- Istung
- Snowden
- So
- sotsiaalmeedia
- Sotsiaalse meedia
- tarkvara
- mõned
- kuidagi
- mõnikord
- allikas
- Ruum
- konkreetse
- väljavõte
- peatatud
- vahetatud
- Võtma
- rääkima
- tech
- tehnikatööstus
- Testimine
- kui
- et
- .
- maailm
- oma
- Need
- nad
- asi
- asjad
- mõtlema
- see
- sel nädalal
- need
- kuigi?
- oht
- Läbi
- aeg
- et
- ütles
- liiga
- töövahendid
- koolitatud
- koolitus
- käsitlema
- häälestamine
- kaks
- universaalselt
- kuni
- us
- kasutama
- Kasutatud
- kasulik
- Kasutaja
- UTC
- väärtus
- ettevõtmine
- riskikapitalist
- väga
- kaudu
- oli
- Tee..
- we
- web
- nädal
- Hästi
- olid
- M
- mis iganes
- millal
- millal iganes
- kas
- mis
- kuigi
- teabevastaja
- Vilepuhuja Edward Snowden
- valge
- WHO
- lai
- Lai valik
- Wikipedia
- will
- koos
- ilma
- Võitis
- Töö
- töö
- maailm
- oleks
- Vale
- aastat
- sa
- Sinu
- sephyrnet