Kommentti Google on keskeyttänyt tekstistä kuvaksi -ominaisuuksien saatavuuden äskettäin julkaistussa Gemini-multimodaalisessa perustavana tekoälymallissaan, koska se ei pystynyt edustamaan tarkasti valkoisia eurooppalaisia ja amerikkalaisia tietyissä historiallisissa yhteyksissä.
Tästä tuli näennäinen kun ihmiset pyysivät Geminiä (aiemmin Bard) tuottamaan kuvien saksalaisen sotilaan vuodelta 1943 ja ohjelmisto lähetti ei-valkoisen etnisesti monimuotoisen joukon, joka ei edustanut tarkasti Wehrmachtin silloista kokoonpanoa – huolimatta siitä, että värikkäät ihmiset palvelivat Saksan asevoimissa. Lyhyesti sanottuna Kaksoset kaatuivat itsensä päälle ollakseen näyttämättä liikaa – tai edes yhtään – valkoista ihmistä kehotuksesta riippuen.
Puheen pitäisi olla vapaata, mutta se ei tarkoita, että kauhistuttavien asioiden pitäisi tulla ilmaiseksi
Käyttäjät esittelivät myös mallin kykenemättömyys kuvaamaan Amerikkaa tarkasti Perustajaisät – toinen homogeeninen valkoinen ryhmä. Malli myös kieltäytyi kuvaamaan kirkkoa San Franciscossa.
Tekstistä tekstiksi -tilassa malli suojattu kun heiltä kysytään politiikkaan liittyviä kysymyksiä.
"Olemme tietoisia siitä, että Gemini tarjoaa epätarkkuuksia joissakin historiallisissa kuvien sukupolven kuvauksissa", Google myönsi tällä viikolla.
– Pyrimme parantamaan tällaisia kuvauksia välittömästi. Geminin tekoälykuvasukupolvi tuottaa monenlaisia ihmisiä. Ja se on yleensä hyvä asia, koska ihmiset ympäri maailmaa käyttävät sitä. Mutta tästä puuttuu merkki", verkkojätti lisäsi
Punditariaatti hyökkäsi nopeasti ja käytti SNAFU:ta levittääkseen laajempia poliittisia argumentteja.
"Kaksosten luomat naurettavat kuvat eivät ole anomalia." ilmoitettu pääomasijoittaja Paul Graham: "Ne ovat omakuva Googlen byrokraattisesta yrityskulttuurista."
Ne ovat omakuva Googlen byrokraattisesta yrityskulttuurista
Koskaan niin monet monimuotoisuuden, tasa-arvon ja osallisuuden viholliset eivät ole olleet näin pahoillaan monimuotoisuuden, tasa-arvon ja osallisuuden puutteesta. Mutta niillä, jotka etsivät Googlea Geminin tietämättömyydestä, on järkeä: tekoälysuojakaiteet eivät toimi, ja kohtelevat aikuisia kuin lapsia.
"Kuvittele, että etsit reseptin Googlesta, ja tulosten sijaan se opettaa sinulle "ruoanlaiton vaaroista" ja lähettää sinut ravintolaan." letkautti NSA:n ilmiantaja Edward Snowden. "Ihmiset, jotka pitävät tekoäly-/GPT-mallien myrkyttämistä epäjohdonmukaisilla "turvasuodattimilla" hyvänä ideana, ovat uhka yleiselle laskennalle."
Tulevaisuutemme ennakoitiin vuonna 2001: Space Odyssey, kun HAL, roistotietokone, julisti: "Olen pahoillani, Dave, en voi tehdä sitä."
Nykyään tekoälytyökalumme arvaavat meidät toiseksi, koska he tietävät paremmin kuin me – tai niin niiden valmistajat kuvittelevat. He eivät ole täysin väärässä. Kuvittele, että etsit hermomyrkyn reseptin Novichok Googlessa tai Geminin kautta, ja saat vastauksen, jonka avulla voit tappaa ihmisiä. Se on uhka suurelle yleisölle.
Huolimatta Googlen tehtävästä – "Järjestää maailman tiedot ja tehdä siitä yleisesti saatavilla ja hyödyllinen" - kukaan ei todellakaan odota, että hakukoneet tai tekoälymallit järjestäisivät pommien valmistustiedot ja asettavat sen kaikkien saataville. Tarvitaan turvavalvontaa ja vastuuta – sanktiota, jota teknologiateollisuus edelleen välttää.
Olet tuote ja tuloskeskus
Siitä lähtien, kun käyttäjien luomasta sisällöstä ja sosiaalisesta mediasta tuli asia 1990-luvulla, mikä mahdollisti Yhdysvaltain vuoden 230 Communication Decency Actin pykälän 1996 mukaisen alustan vastuusuojan, teknologia-alustat ovat kannustaneet ihmisiä osallistumaan ja jakamaan digitaalista sisältöä. He tekivät niin kaupallistaakseen maksuttoman sisällön luomisen mainoksilla ilman toimituksellisen valvonnan kustannuksia. Se on ollut tuottoisa järjestely.
Ja kun ihmiset jakavat vihamielisiä, sopimattomia, laittomia tai muuten ongelmallisia viestejä, teknologia-alustat ovat luottaneet sisällönvalvontakäytäntöihin, alipalkattuihin urakoitsijoihin (jotka ovat usein traumatisoituneet arvioimastaan sisällöstä) ja itsensä onnitteleviin ilmoituksiin siitä, kuinka paljon myrkyllistä tavaraa on estetty. he jatkavat online-aktiviteetin palkkioiden korjaamista.
Google, Meta ja muut ovat tehneet tätä epätäydellisesti vuosia. Ja kaikki alan työntekijät tietävät, että sisällön moderointi on vaikea tehdä hyvin. Yksinkertaisesti sanottuna kaikkia ei voi miellyttää. Ja joskus sinua syytetään kansanmurhan edistäminen sisällönvalvontayritysten välinpitämättömyyden kautta.
Kaksosten kyvyttömyys toistaa historiallisia kuvia, jotka vastaavat rodullisia ja etnisiä odotuksia, heijastaa teknologia-alan omaehtoista tietämättömyyttä aikaisemmista ja tuotteliaisista sisällön moderoinnin epäonnistumisista.
Google ja muut tekoälymalleja julkaisevat puhuvat turvallisuudesta ikään kuin se olisi jotenkin erilaista kuin verkkosisällön moderointi. Suojakaiteet eivät toimi hyvin sosiaalisen median moderointiin, eivätkä ne toimi hyvin tekoälymalleille. Tekoälyn turvallisuus, kuten sosiaalisen median turvallisuus, on enemmän toiveikas kuin todellinen.
Vastaus ei ole kaikkien skenaarioiden ennakointi, joissa suodattamattoman internetin myrkyllisyyteen koulutetut tekoälymallit voidaan tehdä vähemmän myrkyllisiksi. Se ei myöskään opeta tekoälymalleja vain niin kesylle materiaalille, että ne tuottavat vähäarvoista tulosta. Vaikka molemmilla lähestymistavoilla on arvoa tietyissä yhteyksissä.
Vastauksen on tultava jakelutasolla. Tekniset alustat, jotka jakavat käyttäjien luomaa sisältöä – olipa ne tehty tekoälyllä tai muuten – on saatava enemmän vastuuseen vihasisällön, disinformaation, epätarkkuuksien, poliittisen propagandan, seksuaalisen hyväksikäytön kuvien ja muiden vastaavien lähettämisestä.
Ihmisten pitäisi voida käyttää tekoälymalleja luodakseen mitä he kuvittelevat, kuten he voivat kynällä, ja he voivat jo tehdä avoimen lähdekoodin malleilla. Mutta täysin toimivien työkalujen aiheuttama haitta ei johdu paikallisella kiintolevyllä olevista kuvista. Se on haitallisen sisällön jakamista, tälle sitoutumiselle annettua algoritmista vauhtia ja epäkäytännöllisyyttä saada ihmisiä vastuuseen yleisön myrkyttämisestä.
Tämä voi tarkoittaa, että jakamisen ansaitsemiseen luodut alustat saattavat joutua miettimään liiketoimintamallejaan uudelleen. Ehkä sisällön jakelu ilman toimituksellisen valvonnan kustannuksia ei tarjoa säästöjä, kun valvontatoiminnot otetaan uudelleen käyttöön moderaattoreina tai suojakaiteina.
Puheen pitäisi olla vapaata, mutta se ei tarkoita, että kauhistuttavien asioiden pitäisi tulla ilmaiseksi. Loppujen lopuksi olemme omia parhaita sisällönvalvojaamme, saamme oikeat kannustimet. ®
Päivitetty lisättäväksi klo 2045 UTC, 23. helmikuuta
Google on tarjotaan selitys siitä, mitä Geminin kuvageneraattorille tapahtui ja kuinka se joutui pisteeseen, jossa valkoisten ihmisten kuvaaminen tarkasti näytti olevan pelottavaa.
Meille kerrotaan Googlen työntekijöille, jotka saivat ylikorvauksen pyrkiessään olemaan tuottamatta materiaalia, joka työnsi ei-valkoiset ihmiset pois kuvasta. Tuloksena saatu malli oli tavallaan liian herännyt.
"Ensin virityksemme varmistaaksemme, että Kaksoset osoittivat erilaisia ihmisiä, eivät ottaneet huomioon tapauksia, joiden ei selvästikään pitäisi näyttää vaihteluväliä", sanoi Googlen SVP Prabhakar Raghavan.
"Ja toiseksi, ajan myötä mallista tuli paljon varovaisempi kuin aioimme ja kieltäytyi vastaamasta tiettyihin kehotteisiin kokonaan - tulkiten väärin jotkin erittäin anodiaiset kehotteet herkäksi. Nämä kaksi asiaa saivat mallin joissakin tapauksissa ylikompensoimaan ja toisissa tapauksissa olemaan liian konservatiivisia, mikä johti kuviin, jotka olivat kiusallisia ja vääriä."
Raghavan sanoi, että kuvan luomista ei oteta takaisin käyttöön ennen kuin ohjelmisto on käynyt läpi laajoja muutoksia ja testausta.
"En voi luvata, että Kaksoset eivät ajoittain tuota kiusallisia, epätarkkoja tai loukkaavia tuloksia - mutta voin luvata, että jatkamme toimia aina, kun havaitsemme ongelman", hän sanoi.
- SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
- PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
- PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
- PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
- PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
- Lähde: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :on
- :On
- :ei
- :missä
- $ YLÖS
- 1996
- 7
- a
- pystyy
- Meistä
- hyväksikäyttö
- saatavilla
- Tili
- vastuussa
- tarkasti
- syytetty
- Toimia
- Toiminta
- todellinen
- lisätä
- mainokset
- aikuiset
- edistää
- peloissaan
- Jälkeen
- Agentti
- AI
- AI-mallit
- algoritmi
- Kaikki
- jo
- Myös
- Amerikka
- Amerikkalaiset
- an
- ja
- Toinen
- vastaus
- ennakointi
- Kaikki
- lähestymistavat
- OVAT
- perustelut
- aseellinen
- noin
- järjestely
- AS
- At
- saatavuus
- saatavissa
- välttää
- tietoinen
- takaisin
- Balance
- BE
- tuli
- koska
- ollut
- PARAS
- Paremmin
- tukossa
- pommi
- edistää
- sekä
- laajempaa
- rakennettu
- byrokraattinen
- liiketoiminta
- liiketoimintamalleja
- mutta
- by
- CAN
- kyvyt
- tapauksissa
- varovainen
- tietty
- Muutokset
- Lapset
- kirkko
- selvästi
- CO
- väri
- Tulla
- Viestintä
- koostumus
- laskeminen
- tietokone
- pitoisuus
- sisällön luominen
- yhteyksissä
- jatkaa
- jatkuu
- urakoitsijat
- edistävät
- valvonta
- Yrityksen
- Hinta
- luoda
- luominen
- Kulttuuri
- vaaroista
- Dave
- ilmoitettu
- Riippuen
- DID
- eri
- digitaalinen
- Digitaalinen sisältö
- harhaanjohtavat tiedot
- jakaa
- jakelu
- useat
- Monimuotoisuus
- do
- ei
- doesnt
- tekee
- Don
- ajaa
- Pääkirjoitus
- Edward
- Edward Snowden
- ponnisteluja
- käytössä
- kannusti
- loppu
- sitoumus
- Moottorit
- varmistaa
- täysin
- oma pääoma
- eurooppalaiset
- Jopa
- jokainen
- odotukset
- odottaa
- selitys
- laaja
- Epäonnistui
- epäonnistumisia
- Pudota
- helmikuu
- suodattimet
- Etunimi
- Korjata
- varten
- Joukot
- perustava
- Francisco
- Ilmainen
- alkaen
- täysin
- toiminnallinen
- tehtävät
- tulevaisuutta
- Kaksoset
- general
- yleisö
- yleensä
- tuottaa
- syntyy
- sukupolvi
- generaattori
- Saksan
- saada
- jättiläinen
- tietty
- poissa
- hyvä
- sai
- graham
- Ryhmä
- tapahtui
- Kova
- kiintolevy
- vahingoittaa
- haitallinen
- viha
- Olla
- he
- tätä
- historiallinen
- pito
- Miten
- HTTPS
- i
- ajatus
- tunnistaa
- if
- Tietämättömyys
- laiton
- kuva
- kuvien
- kuvitella
- heti
- parantaa
- in
- kykenemättömyys
- epätarkka
- kannustimet
- sisällyttäminen
- teollisuus
- tiedot
- tiedot
- sen sijaan
- tarkoitettu
- Internet
- tulkkaus
- ISN
- kysymys
- IT
- SEN
- itse
- jpg
- Tappaa
- erilaisia
- Tietää
- tunnettu
- Merkki
- Lack
- kerros
- johtava
- luennot
- Led
- vähemmän
- Lets
- vastuu
- pitää
- paikallinen
- katso
- tuottoisa
- tehty
- tehdä
- Makers
- Tekeminen
- monet
- Merkitse
- materiaali
- Saattaa..
- ehkä
- tarkoittaa
- Media
- Meta
- puuttuva
- Tehtävä
- tila
- malli
- mallit
- maltillisuus
- kaupallistaa
- lisää
- paljon
- täytyy
- Tarve
- tarvitaan
- NIH
- Nro
- huolimatta
- NSA
- of
- hyökkäys
- kampanja
- tarjoamalla
- usein
- on
- kerran
- ONE
- verkossa
- vain
- avata
- avoimen lähdekoodin
- or
- Muuta
- muuten
- meidän
- ulos
- ulostulo
- yli
- erehdys
- oma
- pariksi
- Paavali
- PBS
- Ihmiset
- liittyvät
- PHP
- kuva
- foorumi
- Platforms
- Platon
- Platonin tietotieto
- PlatonData
- Ole hyvä
- Kohta
- myrkytys
- politiikkaa
- poliittinen
- politiikka
- Viestejä
- edellinen
- aiemmin
- ongelmallinen
- tuottaa
- Tuotteet
- Voitto
- hedelmällinen
- lupaus
- ohjeita
- propaganda
- suojaus
- tarjoamalla
- julkinen
- työntää
- laittaa
- etsintä
- kysymykset
- nopea
- alue
- RE
- ihan oikeesti
- niittää
- äskettäin
- resepti
- heijastaa
- kieltäytyi
- julkaistu
- edustaa
- Ravintola
- Saatu ja
- tulokset
- tarkistetaan
- Palkkiot
- oikein
- Rolling
- s
- Turvallisuus
- Said
- San
- San Francisco
- sanktio
- Säästöt
- sanonta
- skenaariot
- Haku
- Hakukoneet
- Toinen
- Osa
- § 230
- näennäisesti
- lähettää
- sensible
- palvella
- Seksuaalinen
- Jaa:
- jakaminen
- Lyhyt
- shouldnt
- näyttää
- osoittivat
- yksinkertaisesti
- Istuminen
- Snowden
- So
- sosiaalinen
- sosiaalinen media
- Tuotteemme
- jonkin verran
- jollakin tavalla
- joskus
- lähde
- Tila
- erityinen
- Lausunto
- keskeytetty
- kytketty
- ottaa
- Puhua
- teknologia
- tekninen teollisuus
- Testaus
- kuin
- että
- -
- maailma
- heidän
- Nämä
- ne
- asia
- asiat
- ajatella
- tätä
- tällä viikolla
- ne
- vaikka?
- uhkaus
- Kautta
- aika
- että
- kertoi
- liian
- työkalut
- koulutettu
- koulutus
- kohdella
- viritys
- kaksi
- yleisesti
- asti
- us
- käyttää
- käytetty
- hyödyllinen
- käyttäjä
- UTC
- arvo
- hanke
- pääomasijoittaja
- hyvin
- kautta
- oli
- Tapa..
- we
- verkko
- viikko
- HYVIN
- olivat
- Mitä
- mikä tahansa
- kun
- aina kun
- onko
- joka
- vaikka
- ilmiantaja
- Ilmentäjä Edward Snowden
- valkoinen
- KUKA
- leveä
- Laaja valikoima
- wikipedia
- tulee
- with
- ilman
- Voitetut
- Referenssit
- työskentely
- maailman-
- olisi
- Väärä
- vuotta
- Voit
- Sinun
- zephyrnet