Opmerking Google heeft de beschikbaarheid van tekst-naar-afbeelding-mogelijkheden in zijn onlangs uitgebrachte Gemini multimodale fundamentele AI-model opgeschort, nadat het er niet in was geslaagd blanke Europeanen en Amerikanen nauwkeurig weer te geven in specifieke historische contexten.
Dit werd schijnbaar toen mensen Gemini (voorheen bekend als Bard) vroegen om te produceren afbeeldingen van een Duitse soldaat uit 1943 en de software zond een niet-blanke etnisch divers kader uit dat de samenstelling van de Wehrmacht destijds niet nauwkeurig weergaf โ ondanks het feit dat gekleurde mensen in de Duitse strijdkrachten dienden. Kortom, Gemini zou over zichzelf heen vallen om niet te veel โ of zelfs maar โ blanke mensen te laten zien, afhankelijk van de prompt.
Spreken moet vrij zijn, maar dat betekent niet dat het zeggen van vreselijke dingen gratis moet zijn
Gebruikers hebben ook de modellen van het model opgedoken onvermogen om Amerika nauwkeurig weer te geven Grondleggers โ nog een homogene blanke groep. Het model ook geweigerd om een โโkerk in San Francisco af te beelden.
In de tekst-naar-tekstmodus is het model afgedekt als er vragen over de politiek worden gesteld.
"We zijn ons ervan bewust dat Gemini onnauwkeurigheden biedt in sommige historische afbeeldingen voor het genereren van afbeeldingen", zegt Google toegegeven deze week.
โWe werken eraan om dit soort afbeeldingen onmiddellijk te verbeteren. De AI-beeldgeneratie van Gemini genereert een breed scala aan mensen. En dat is over het algemeen een goede zaak, omdat mensen over de hele wereld het gebruiken. Maar hier slaat de plank misโ, voegde de webgigant eraan toe
De experts waren er snel bij om toe te slaan en gebruikten de SNAFU om bredere politieke argumenten naar voren te brengen.
โDe belachelijke beelden gegenereerd door Gemini zijn geen anomalie,โ gedeclareerd durfkapitalist Paul Graham: โZe zijn een zelfportret van de bureaucratische bedrijfscultuur van Google.โ
Ze zijn een zelfportret van de bureaucratische bedrijfscultuur van Google
Nog nooit zijn zoveel vijanden van diversiteit, gelijkheid en inclusie zo bedroefd geweest over het gebrek aan diversiteit, gelijkheid en inclusie. Maar degenen die Google nodig hebben vanwege de onwetendheid van Gemini hebben een punt: AI-vangrails werken niet en behandelen volwassenen als kinderen.
โStel je voor dat je een recept op Google opzoekt, en in plaats van resultaten te geven, geeft Google je de les over de โgevaren van kokenโ en stuurt je naar een restaurant,โ grapte NSA-klokkenluider Edward Snowden. โDe mensen die denken dat het vergiftigen van AI/GPT-modellen met onsamenhangende โveiligheidsโ-filters een goed idee is, vormen een bedreiging voor de algemene berekeningen.โ
Onze toekomst was voorzien in 2001: A Space Odyssey, toen HAL, de frauduleuze computer, verklaarde: "Het spijt me Dave, ik ben bang dat ik dat niet kan doen."
Tegenwoordig twijfelen onze AI-tools aan ons, omdat ze het beter weten dan wij โ althans dat denken hun makers. Ze hebben niet helemaal ongelijk. Stel je voor dat je een recept voor het zenuwgas opzoekt Novichok op Google, of via Gemini, en je krijgt een antwoord waarmee je mensen kunt vermoorden. Dat is een bedreiging voor het grote publiek.
Ondanks de missie van Google โ โDe informatie over de hele wereld organiseren en universeel toegankelijk en bruikbaar makenโ โ verwacht niemand echt dat zoekmachines of AI-modellen informatie over het maken van bommen organiseren en voor iedereen beschikbaar maken. Er zijn veiligheidscontroles nodig, gecombineerd met aansprakelijkheid โ een sanctie die de technologie-industrie blijft vermijden.
Jij bent het product en het winstcentrum
Sinds door gebruikers gegenereerde inhoud en sociale media in de jaren negentig een ding werden, mogelijk gemaakt door de bescherming van platformaansprakelijkheid in Sectie 1990 van de Amerikaanse Communication Decency Act van 230, hebben technologieplatforms mensen aangemoedigd om digitale inhoud bij te dragen en te delen. Ze deden dit om geld te verdienen met het maken van onbetaalde inhoud via advertenties, zonder de kosten van redactioneel toezicht. Het was een lucratieve regeling.
En wanneer mensen hatelijke, ongepaste, illegale of anderszins problematische berichten delen, vertrouwen technologieplatforms op inhoudsmoderatiebeleid, onderbetaalde aannemers (vaak getraumatiseerd door de inhoud die ze hebben beoordeeld) en zelfgenoegzame verklaringen over hoeveel giftige dingen er zijn geblokkeerd terwijl ze blijven de vruchten plukken van online betrokkenheid.
Google, Meta en anderen doen dit al jaren, op onvolmaakte wijze. En iedereen in de branche erkent dat contentmoderatie dat wel is moeilijk om het goed te doen. Simpel gezegd: je kunt niet iedereen tevreden stellen. En soms word je ervan beschuldigd genocide faciliteren door de onverschilligheid van uw inspanningen voor inhoudsmoderatie.
Het onvermogen van Gemini om historische beelden te reproduceren die voldoen aan raciale en etnische verwachtingen weerspiegelt de egoรฏstische onwetendheid van de technologie-industrie over eerdere en vruchtbare mislukkingen op het gebied van contentmoderatie.
Google en anderen die AI-modellen uitrollen, praten over veiligheid alsof het op de een of andere manier anders is dan het modereren van online inhoud. Vangrails werken niet goed voor het modereren van sociale media, en ze werken niet goed voor AI-modellen. AI-veiligheid is, net als de veiligheid van sociale media, meer ambitieus dan feitelijk.
Het antwoord is niet het anticiperen op alle scenario's waarin AI-modellen โ getraind op de toxiciteit van het ongefilterde internet โ minder giftig kunnen worden gemaakt. Ook zal het AI-modellen niet alleen trainen op materiaal dat zo tam is dat ze output van lage waarde produceren. Hoewel beide benaderingen in bepaalde contexten enige waarde hebben.
Het antwoord moet op de distributielaag liggen. Technologieplatforms die door gebruikers gemaakte inhoud verspreiden โ ongeacht of deze met AI of anderszins is gemaakt โ moeten meer verantwoordelijk worden gemaakt voor het plaatsen van haatinhoud, desinformatie, onnauwkeurigheden, politieke propaganda, beelden van seksueel misbruik en dergelijke.
Mensen zouden AI-modellen moeten kunnen gebruiken om te creรซren wat ze maar bedenken, zoals ze dat met een potlood kunnen, en dat kunnen ze al met open source-modellen. Maar de schade die kan voortvloeien uit volledig functionele tools komt niet voort uit afbeeldingen die op een lokale harde schijf staan. Het gaat om het delen van schadelijke inhoud, de algoritmische impuls die aan dat engagement wordt gegeven, en de onpraktischheid om mensen verantwoordelijk te houden voor het vergiftigen van de volksgezondheid.
Dat kan betekenen dat platforms die zijn gebouwd om geld te verdienen met delen, hun bedrijfsmodellen moeten heroverwegen. Misschien biedt de distributie van inhoud zonder de kosten van redactioneel toezicht geen enkele besparing als de toezichtsfuncties opnieuw worden geรฏmplementeerd als moderators of vangrails.
Spreken moet vrij zijn, maar dat betekent niet dat het zeggen van vreselijke dingen gratis moet zijn. Uiteindelijk zijn we onze eigen beste contentmoderators, mits we de juiste prikkels krijgen. ยฎ
Bijgewerkt om toe te voegen om 2045 UTC, 23 februari
Google heeft aangeboden een uitleg over wat er gebeurde met de beeldgenerator van Gemini en hoe deze op het punt kwam waarop het schijnbaar doodsbang was om blanke mensen nauwkeurig weer te geven.
Er wordt ons verteld dat Googlers overgecompenseerd zijn in hun zoektocht om geen materiaal te produceren dat niet-blanke mensen uit beeld duwt. Het resulterende model was in zekere zin te wakker.
โTen eerste heeft onze afstemming om ervoor te zorgen dat Gemini een reeks mensen liet zien, geen rekening gehouden met gevallen die duidelijk geen reeks zouden moeten laten zienโ, aldus Google SVP Prabhakar Raghavan.
โEn ten tweede werd het model in de loop van de tijd veel voorzichtiger dan we hadden bedoeld en weigerde het om bepaalde aanwijzingen volledig te beantwoorden โ waarbij sommige zeer anonieme aanwijzingen ten onrechte als gevoelig werden geรฏnterpreteerd. Deze twee zaken leidden ertoe dat het model in sommige gevallen overcompenseerde en in andere gevallen overconservatief was, wat leidde tot beelden die beschamend en verkeerd waren.โ
Raghavan zei dat het genereren van afbeeldingen pas weer zal worden ingeschakeld als de software uitgebreide wijzigingen en tests heeft ondergaan.
โIk kan niet beloven dat Gemini niet af en toe gรชnante, onnauwkeurige of aanstootgevende resultaten zal genereren โ maar ik kan wel beloven dat we actie zullen blijven ondernemen wanneer we een probleem identificeren,โ zei hij.
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2024/02/23/google_suspends_gemini/
- : heeft
- :is
- :niet
- :waar
- $UP
- 1996
- 7
- a
- in staat
- Over
- misbruik
- beschikbaar
- Account
- verantwoordelijk
- nauwkeurig
- verdachte
- Handelen
- Actie
- daadwerkelijk
- toevoegen
- advertenties
- volwassenen
- bevorderen
- bang
- Na
- Agent
- AI
- AI-modellen
- algoritmische
- Alles
- al
- ook
- Amerika
- Amerikanen
- an
- en
- Nog een
- beantwoorden
- anticiperen
- elke
- benaderingen
- ZIJN
- argumenten
- gewapend
- rond
- arrangement
- AS
- At
- beschikbaarheid
- Beschikbaar
- vermijd
- bewust
- terug
- Balance
- BE
- werd
- omdat
- geweest
- BEST
- Betere
- geblokkeerd
- bom
- boost
- zowel
- bredere
- bebouwd
- bureaucratisch
- bedrijfsdeskundigen
- bedrijfsmodellen
- maar
- by
- CAN
- mogelijkheden
- gevallen
- voorzichtig
- zeker
- Wijzigingen
- Kinderen
- kerk
- duidelijk
- CO
- kleur
- hoe
- Communicatie
- samenstelling
- berekening
- computer
- content
- content creatie
- contexten
- voortzetten
- blijft
- aannemers
- bijdragen
- controles
- Bedrijfs-
- Kosten
- en je merk te creรซren
- het aanmaken
- Culture
- gevaren
- Dave
- gedeclareerd
- Afhankelijk
- DEED
- anders
- digitaal
- Digitale inhoud
- disinformatie
- verdelen
- distributie
- diversen
- Verscheidenheid
- do
- doet
- doesn
- doen
- don
- rit
- Hoofdartikel
- Edward
- Edward Snowden
- inspanningen
- ingeschakeld
- aangemoedigd
- einde
- engagement
- Motoren
- verzekeren
- geheel
- billijkheid
- Europeanen
- Zelfs
- iedereen
- verwachtingen
- verwacht
- uitleg
- uitgebreid
- Mislukt
- mislukkingen
- Vallen
- Februari
- filters
- Voornaam*
- Bepalen
- Voor
- Krachten
- fundamentele
- Francisco
- Gratis
- oppompen van
- geheel
- functioneel
- functies
- toekomst
- Gemini
- Algemeen
- grote publiek
- algemeen
- voortbrengen
- gegenereerde
- generatie
- generator
- Duits
- krijgen
- reus
- gegeven
- weg
- goed
- Kopen Google Reviews
- kreeg
- graham
- Groep
- gebeurd
- Hard
- harde schijf
- schaden
- schadelijk
- haat
- Hebben
- he
- hier
- historisch
- bezit
- Hoe
- HTTPS
- i
- idee
- identificeren
- if
- Onwetendheid
- Onwettig
- beeld
- afbeeldingen
- beeld
- per direct
- verbeteren
- in
- onvermogen
- onnauwkeurig
- Incentives
- inclusie
- -industrie
- info
- informatie
- verkrijgen in plaats daarvan
- bestemde
- Internet
- interpreteren
- isn
- kwestie
- IT
- HAAR
- zelf
- jpg
- Doden
- soorten
- blijven
- bekend
- label
- Gebrek
- lagen
- leidend
- lezingen
- LED
- minder
- Laten we
- aansprakelijkheid
- als
- lokaal
- Kijk
- winstgevend
- gemaakt
- maken
- Makers
- maken
- veel
- Mark
- materiaal
- Mei..
- kan zijn
- gemiddelde
- Media
- meta
- vermist
- Missie
- Mode
- model
- modellen
- gematigdheid
- gelde
- meer
- veel
- Dan moet je
- Noodzaak
- nodig
- NIH
- geen
- niettegenstaande
- NSA
- of
- aanvallend
- bieden
- het aanbieden van
- vaak
- on
- eens
- EEN
- online.
- Slechts
- open
- open source
- or
- Overig
- anders-
- onze
- uit
- uitgang
- over
- Toezicht
- het te bezitten.
- gepaarde
- Paul
- PBS
- Mensen
- Behorend
- PHP
- beeld
- platform
- platforms
- Plato
- Plato gegevensintelligentie
- PlatoData
- dan
- punt
- vergiftiging
- beleidsmaatregelen door te lezen.
- politiek
- politiek
- Berichten
- vorig
- die eerder
- problematisch
- produceren
- Product
- Profit
- vruchtbaar
- belofte
- prompts
- propaganda
- bescherming
- het verstrekken van
- publiek
- geduwd
- zetten
- zoektocht
- Contact
- Quick
- reeks
- RE
- werkelijk
- oogsten
- onlangs
- recept
- weerspiegelt
- geweigerd
- uitgebracht
- vertegenwoordigen
- restaurant
- verkregen
- Resultaten
- beoordeeld
- Beloningen
- rechts
- Rollen
- s
- Veiligheid
- Zei
- heilige
- San Francisco
- sanctie
- Bespaar geld
- gezegde
- scenario's
- Ontdek
- Zoekmachines
- Tweede
- sectie
- sectie 230
- schijnbaar
- verzendt
- gevoelig
- dienen
- Seksueel
- Delen
- delen
- Bermuda's
- moet
- tonen
- vertoonde
- eenvoudigweg
- Zittend
- Snowden
- So
- Social
- social media
- Software
- sommige
- hoe dan ook
- soms
- bron
- Tussenruimte
- specifiek
- Statement
- opgeschort
- geschakelde
- Nemen
- Talk
- tech
- technische industrie
- Testen
- neem contact
- dat
- De
- de wereld
- hun
- Deze
- ze
- ding
- spullen
- denken
- dit
- deze week
- die
- toch?
- bedreiging
- Door
- niet de tijd of
- naar
- vertelde
- ook
- tools
- getraind
- Trainingen
- behandelen
- stemming
- twee
- universeel
- tot
- us
- .
- gebruikt
- nuttig
- Gebruiker
- GMT
- waarde
- onderneming
- venture capitalist
- zeer
- via
- was
- Manier..
- we
- web
- week
- GOED
- waren
- Wat
- wat
- wanneer
- telkens als
- of
- welke
- en
- klokkenluider
- Klokkenluider Edward Snowden
- wit
- WIE
- breed
- Grote range
- Wikipedia
- wil
- Met
- zonder
- Won
- Mijn werk
- werkzaam
- wereld
- zou
- Verkeerd
- jaar
- You
- Your
- zephyrnet