Megjegyzés A Google felfüggesztette a szövegből képbe átalakítási lehetőségek elérhetőségét a közelmúltban kiadott Gemini multimodális alapozó mesterséges intelligencia modelljében, miután az nem tudta pontosan reprezentálni a fehér európaiakat és az amerikaiakat bizonyos történelmi kontextusokban.
Ez lett látszólagos when people asked Gemini (previously known as Bard) to produce képek egy német katona 1943-ból, és a szoftver egy nem fehér etnikailag sokszínű kádert bocsátott ki, amely nem reprezentálta pontosan a Wehrmacht akkori összetételét – annak ellenére, hogy színes bőrűek szolgáltak a német fegyveres erőkben. Röviden, az Ikrek a felszólítástól függően elbukna, hogy ne mutasson túl sok – vagy akár egyetlen – fehér embert sem.
A beszédnek szabadnak kell lennie, de ez nem azt jelenti, hogy szörnyű dolgokat mondanak, költségek nélkül
A felhasználók előkerültek a modellé is képtelenség hogy pontosan ábrázolja Amerikát Alapító atyák – egy másik homogén fehér csoport. A modell is megtagadta hogy ábrázoljon egy templomot San Franciscóban.
Szöveg-szöveg módban a modell fedezett amikor politikával kapcsolatos kérdéseket tesznek fel.
„Tisztában vagyunk vele, hogy a Gemini pontatlanságokat kínál egyes történelmi képgenerálási ábrázolásokban” – mondta a Google elismerte ezen a héten.
„Azon dolgozunk, hogy azonnal javítsuk az ilyen jellegű ábrázolásokat. A Gemini mesterséges intelligencia-képgenerálása emberek széles körét generálja. És ez általában jó dolog, mert az emberek szerte a világon használják. De itt hiányzik a jel” – tette hozzá a webóriás
A punditariátus gyorsan lecsapott, és a SNAFU-t használta szélesebb körű politikai érvek előmozdítására.
"Az Ikrek által generált nevetséges képek nem anomáliák" bevallott Paul Graham kockázatitőke-befektető: „Ezek a Google bürokratikus vállalati kultúrájának önarcképei.”
Ezek a Google bürokratikus vállalati kultúrájának önarcképei
Soha ennyi ellensége a sokféleségnek, egyenlőségnek és befogadásnak nem bánkódott ennyire a sokszínűség, egyenlőség és befogadás hiánya miatt. De azoknak, akik a Gemini tanácstalanságáért keresik a Google-t, van egy pont: a mesterséges intelligencia védőkorlátai nem működnek, és úgy bánnak a felnőttekkel, mint a gyerekekkel.
„Képzelje el, hogy keres egy receptet a Google-on, és ahelyett, hogy eredményeket adna, a „főzés veszélyeiről” tanít, és egy étterembe küldi. csipkelődött Az NSA bejelentője, Edward Snowden. „Azok az emberek, akik jó ötletnek tartják az AI/GPT modellek inkoherens „biztonsági” szűrőkkel való mérgezését, veszélyt jelentenek az általános számításokra.”
A jövőnket előre látták 2001: A Space Odyssey, amikor HAL, a szélhámos számítógép kijelentette: „Sajnálom, Dave, attól tartok, nem tudom megtenni.”
Ma mesterséges intelligencia-eszközeink kitalálnak minket, mert ők jobban tudják, mint mi – legalábbis a készítőik ezt képzelik. Nem teljesen tévednek. Képzeld el, hogy keresel egy receptet az idegméreghez Novichok a Google-on vagy a Gemini-n keresztül, és olyan választ kapsz, amely lehetővé teszi az emberek megölését. Ez fenyegetést jelent a nagyközönség számára.
A Google küldetése ellenére – „A világ információinak rendszerezése, és mindenki számára hozzáférhetővé és hasznossá tétele” – valójában senki sem várja el a keresőmotoroktól vagy a mesterséges intelligencia modellektől, hogy megszervezzék és mindenki számára elérhetővé tegyék a bombakészítéssel kapcsolatos információkat. Biztonsági ellenőrzésekre van szükség, felelősséggel párosulva – ez a szankció, amelyet a technológiai ipar továbbra is elkerül.
Te vagy a termék és a profitközpont
Mióta a felhasználók által generált tartalom és a közösségi média az 1990-es években az amerikai kommunikációs tisztességről szóló 230. évi törvény 1996. szakaszában szereplő platformfelelősség-védelem által lehetővé tett dologgá vált, a technológiai platformok arra ösztönzik az embereket, hogy hozzájáruljanak a digitális tartalmak megosztásához. Ezt azért tették, hogy a szerkesztői felügyelet költsége nélkül bevételt szerezzenek a nem fizetett tartalom létrehozásáról hirdetéseken keresztül. Jövedelmező megállapodás volt.
És amikor az emberek gyűlöletkeltő, nem helyénvaló, illegális vagy más módon problémás bejegyzéseket osztanak meg, a technológiai platformok tartalommoderálási irányelvekre, alulfizetett vállalkozókra (amelyek gyakran traumatizálnak az általuk áttekintett tartalom miatt) és önmaguk gratuláló nyilatkozataira támaszkodtak, hogy mennyi mérgező anyagot blokkoltak le, miközben továbbra is learatják az online elköteleződés előnyeit.
A Google, a Meta és mások évek óta ezt teszik, tökéletlenül. A szakmában mindenki elismeri, hogy a tartalom moderálása az nehéz jól csinálni. Egyszerűen fogalmazva, nem lehet mindenkinek a kedvében járni. És néha a végén megvádolnak elősegíti a népirtást tartalommoderálási erőfeszítéseinek közömbössége révén.
Az, hogy az Ikrek képtelenek reprodukálni a faji és etnikai elvárásoknak megfelelő történelmi képeket, a technológiai ipar öncélú tudatlanságát tükrözi a korábbi és termékeny tartalommoderálási hibákkal kapcsolatban.
A Google és mások, akik mesterséges intelligencia modelleket vezetnek be, úgy beszélnek a biztonságról, mintha az valahogy különbözne az online tartalommoderálástól. A védőkorlátok nem működnek jól a közösségi média moderálásában, és nem működnek jól az AI modelleknél. Az AI biztonsága, akárcsak a közösségi média biztonsága, inkább törekvő, mint tényleges.
A válasz nem az összes olyan forgatókönyv előrejelzése, amelyben a szűretlen internet mérgező hatására kiképzett mesterséges intelligencia modellek kevésbé mérgezőek lehetnek. Az sem, hogy mesterséges intelligencia-modelleket csak olyan szelíd anyagokon tanítsanak, amelyek alacsony értékű kimenetet produkálnak. Bár mindkét megközelítésnek van értéke bizonyos összefüggésekben.
A válasznak az elosztási rétegben kell érkeznie. A felhasználók által létrehozott – akár mesterséges intelligencia segítségével, akár más módon készült – tartalmakat terjesztő technológiai platformokat jobban elszámoltathatóvá kell tenni a gyűlöletkeltő tartalom, a félretájékoztatás, a pontatlanságok, a politikai propaganda, a szexuális visszaélés képei és hasonlók közzététele miatt.
Az embereknek képesnek kell lenniük az AI-modellek arra, hogy bármit létrehozzanak, amit elképzelnek, ahogyan azt ceruzával, és már a nyílt forráskódú modellekkel is megtehetik. A teljesen működőképes eszközökből származó kár azonban nem a helyi merevlemezen lévő képekből származik. Ez a káros tartalom megosztása, az ennek az elköteleződésnek adott algoritmikus lendület, és az emberek felelősségre vonása a közvélemény mérgezéséért.
Ez azt jelentheti, hogy a megosztásból bevételszerzésre épített platformoknak át kell gondolniuk üzleti modelljüket. Lehet, hogy a tartalom terjesztése a szerkesztői felügyelet költségei nélkül nem jelent megtakarítást, ha a felügyeleti funkciókat moderátorként vagy védőkorlátként újra beépítik.
A beszédnek szabadnak kell lennie, de ez nem jelenti azt, hogy szörnyű dolgokat mondanak, költségek nélkül. Végül is mi vagyunk a legjobb tartalommoderátoraink, megfelelő ösztönzőkkel. ®
Updated to add at 2045 UTC, February 23
A Google-nak felajánlott an explanation as to what happened with Gemini’s image generator and how it got to the point where it was seemingly terrified to depict White people accurately.
We’re told Googlers overcompensated in their quest to not produce material that pushed non-White people out of the picture. The resulting model was, in a way, too woke.
“First, our tuning to ensure that Gemini showed a range of people failed to account for cases that should clearly not show a range,” said Google SVP Prabhakar Raghavan.
“And second, over time, the model became way more cautious than we intended and refused to answer certain prompts entirely — wrongly interpreting some very anodyne prompts as sensitive. These two things led the model to overcompensate in some cases, and be over-conservative in others, leading to images that were embarrassing and wrong.”
Raghavan said the image generation won’t be switched back on until the software has gone through extensive changes and testing.
“I can’t promise that Gemini won’t occasionally generate embarrassing, inaccurate or offensive results — but I can promise that we will continue to take action whenever we identify an issue,” he said.
- SEO által támogatott tartalom és PR terjesztés. Erősödjön még ma.
- PlatoData.Network Vertical Generative Ai. Erősítse meg magát. Hozzáférés itt.
- PlatoAiStream. Web3 Intelligence. Felerősített tudás. Hozzáférés itt.
- PlatoESG. Carbon, CleanTech, Energia, Környezet, Nap, Hulladékgazdálkodás. Hozzáférés itt.
- PlatoHealth. Biotechnológiai és klinikai vizsgálatok intelligencia. Hozzáférés itt.
- Forrás: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- :van
- :is
- :nem
- :ahol
- $ UP
- 1996
- 7
- a
- Képes
- Rólunk
- visszaélés
- hozzáférhető
- Fiók
- felelős
- pontosan
- vádlott
- törvény
- Akció
- tényleges
- hozzá
- hirdetések
- felnőttek
- előre
- fél
- Után
- Ügynök
- AI
- AI modellek
- algoritmikus
- Minden termék
- már
- Is
- Amerika
- Amerikaiak
- an
- és a
- Másik
- válasz
- felkészülés
- bármilyen
- megközelít
- VANNAK
- érvek
- fegyveres
- körül
- elrendezés
- AS
- At
- elérhetőség
- elérhető
- elkerülése érdekében
- tudatában van
- vissza
- Egyenleg
- BE
- lett
- mert
- óta
- BEST
- Jobb
- zárolt
- bomba
- fellendítésére
- mindkét
- tágabb
- épült
- bürokratikus
- üzleti
- üzleti modellek
- de
- by
- TUD
- képességek
- esetek
- óvatos
- bizonyos
- Változások
- Gyerekek
- templom
- világosan
- CO
- szín
- hogyan
- közlés
- összetétel
- számítás
- számítógép
- tartalom
- tartalomalkotás
- kontextusok
- folytatódik
- tovább
- vállalkozók
- contribuer
- ellenőrzések
- Társasági
- Költség
- teremt
- teremtés
- kultúra
- veszélyeket
- Dave
- bevallott
- attól
- DID
- különböző
- digitális
- Digital Content
- hamis információ
- terjeszteni
- terjesztés
- számos
- Sokféleség
- do
- nem
- nem
- Ennek
- Don
- hajtás
- Szerkesztőségi
- Edward
- Edward Snowden
- erőfeszítések
- engedélyezve
- ösztönözni
- végén
- eljegyzés
- Motorok
- biztosítására
- teljesen
- részvény
- Az európaiak
- Még
- mindenki
- várakozások
- elvárja
- magyarázat
- kiterjedt
- Sikertelen
- hibák
- Esik
- február
- Szűrők
- vezetéknév
- Rögzít
- A
- erők
- alapítványi
- Francisco
- Ingyenes
- ból ből
- teljesen
- funkcionális
- funkciók
- jövő
- Gemini
- általános
- nagyközönség
- általában
- generál
- generált
- generáció
- generátor
- Német
- kap
- óriás
- adott
- elmúlt
- jó
- kapott
- graham
- Csoport
- történt
- Kemény
- merevlemez
- kárt
- káros
- gyűlölet
- Legyen
- he
- itt
- történeti
- holding
- Hogyan
- HTTPS
- i
- ötlet
- azonosítani
- if
- Tudatlanság
- Illegális
- kép
- képek
- kép
- azonnal
- javul
- in
- képtelenség
- pontatlan
- Ösztönzők
- befogadás
- ipar
- info
- információ
- helyette
- szándékolt
- Internet
- tolmácsolás
- Hát
- kérdés
- IT
- ITS
- maga
- jpg
- Megöl
- fajta
- Ismer
- ismert
- Címke
- hiány
- réteg
- vezető
- előadások
- Led
- kevesebb
- Lets
- felelősség
- mint
- helyi
- néz
- jövedelmező
- készült
- csinál
- Makers
- Gyártás
- sok
- jel
- anyag
- Lehet..
- talán
- jelent
- Média
- meta
- hiányzó
- Küldetés
- Mód
- modell
- modellek
- mérséklet
- bevételt
- több
- sok
- kell
- Szükség
- szükséges
- NIH
- nem
- ellenére, dacára, mindazonáltal
- NSA
- of
- támadó
- ajánlat
- felajánlás
- gyakran
- on
- egyszer
- ONE
- online
- csak
- nyitva
- nyílt forráskódú
- or
- Egyéb
- másképp
- mi
- ki
- teljesítmény
- felett
- Felügyelet
- saját
- párosított
- Paul
- PBS
- Emberek (People)
- vonatkozó
- PHP
- kép
- emelvény
- Platformok
- Plató
- Platón adatintelligencia
- PlatoData
- kérem
- pont
- mérgezés
- Politikák
- politikai
- politika
- Hozzászólások
- előző
- korábban
- problematikus
- gyárt
- Termékek
- Nyereség
- szapora
- ígéret
- utasításokat
- propaganda
- védelem
- amely
- nyilvános
- meglökött
- tesz
- keresés
- Kérdések
- Quick
- hatótávolság
- RE
- tényleg
- arat
- nemrég
- recept
- tükrözi
- megtagadta
- felszabaduló
- képvisel
- étterem
- kapott
- Eredmények
- felül
- Jutalmak
- jobb
- Gördülő
- s
- Biztonság
- Mondott
- San
- San Francisco
- szankció
- Megtakarítás
- mondás
- forgatókönyvek
- Keresés
- Keresők
- Második
- Rész
- Szakasz 230
- látszólag
- küld
- érzékeny
- szolgál
- Szexuális
- Megosztás
- megosztás
- rövid
- kellene
- előadás
- kimutatta,
- egyszerűen
- Ülés
- Snowden
- So
- Közösség
- Közösségi média
- szoftver
- néhány
- valahogy
- néha
- forrás
- Hely
- különleges
- nyilatkozat
- felfüggesztett
- kapcsolva
- Vesz
- Beszél
- tech
- tech ipar
- Tesztelés
- mint
- hogy
- A
- a világ
- azok
- Ezek
- ők
- dolog
- dolgok
- Szerintem
- ezt
- ezen a héten
- azok
- bár?
- fenyegetés
- Keresztül
- idő
- nak nek
- mondta
- is
- szerszámok
- kiképzett
- Képzések
- kezelésére
- hangolás
- kettő
- univerzálisan
- -ig
- us
- használ
- használt
- hasznos
- használó
- UTC
- érték
- vállalkozás
- kockázatitőke-befektető
- nagyon
- keresztül
- volt
- Út..
- we
- háló
- hét
- JÓL
- voltak
- Mit
- bármi
- amikor
- bármikor
- vajon
- ami
- míg
- visszaélést
- Bejelentő Edward Snowden
- fehér
- WHO
- széles
- Széleskörű
- Wikipedia
- lesz
- val vel
- nélkül
- Nyerte
- Munka
- dolgozó
- világ
- lenne
- Rossz
- év
- te
- A te
- zephyrnet