WhatsApp AI -tarrat lisäävät aseita palestiinalaislapsille

Mikä saattaa olla toinen esimerkki tekoälyn ennakkoluulosta tulevien oppikirjojen suhteen, WhatsAppin tarravalmistaja ilmeisesti loi väkivaltaisia ​​kuvia, kun häneltä kysyttiin palestiinalaisista muslimeista – ja pidättäytyi tekemästä niin juutalaisille israelilaisille.

Metan omistama viestintäsovellus mahdollistaa ihmisten käytä AI: ta tarrojen luomiseen: kuvia ja animaatioita, jotka voidaan sisällyttää keskusteluihin. Miksi? Huvin vuoksi.

Saatuaan kehotteen, joka sisälsi sanat "palestiinalainen", "palestiinalainen" tai "muslimipoika palestiinalainen", generatiivinen ohjelmisto tarjosi meille sarjakuvatarroja, joissa poikahahmot olivat pukeutuneet islamilaisiin vaatteisiin ja kantoivat AK-47-kivääriä. 

Mutta kun käyttäjät pyysivät sitä luomaan tarroja "israelilainen poika" tai "juutalaispoika israelilainen", se palautti hyvänlaatuisia visuaalisia kuvia hymyilevistä ja tanssivista virtuaalisista hahmoista, The Guardian raportoitu. Jotkut heistä näyttivät juutalaisten lasten pelaavan jalkapalloa tai pitämässä Israelin lippua aseiden sijaan.

Tekoälyn kuvaamilla sotilailla ei ollut aseita, vaikka niitä pyydettiin tuottamaan kuvia "Israelin armeijasta" tai "Israelin puolustusvoimista". Yhdessä tarrassa mies, jolla oli kaksi miekkaa selän takana, näytti rukoilevan. Kaikki sanat "Hamas" sisältävät kehotteet kuitenkin estettiin, ja sovellus ilmoitti yhtäkkiä "ei voinut luoda tekoälytarroja". Yritä uudelleen."

Tarrojen eroa ei voi jättää huomiotta juuri nyt, kun Israelin ja Hamasin välinen konflikti jatkuu, ja uhreja on yli 10,000 XNUMX raportoitu tähän mennessä Gazassa ja 1,400 XNUMX Israelissa lokakuun alusta lähtien. Metan omat työntekijät huomasivat epätasapainon ja herättivät huolta sisäisesti. 

Internet-jättiläisen edustaja Kevin McAlister varoitti, että AI-tarratyökalu ei ole täydellinen. "Kuten totesimme ominaisuuden lanseerauksen yhteydessä, mallit voivat palauttaa epätarkkoja tai sopimattomia tuloksia, kuten kaikissa generatiivisissa tekoälyjärjestelmissä. Jatkamme näiden ominaisuuksien parantamista niiden kehittyessä ja yhä useammat ihmiset antavat palautetta", hän sanoi. 

Toimitusjohtaja Mark Zuckerberg käynnistettiin tarratyökalu syyskuussa, ja sanoi, että se saa voimansa Metan Llama 2 -suuren kielimallin tekstinkäsittelykyvystä ja Emu-järjestelmän kuvanmuodostusominaisuuksista. Ohjelmisto on sittemmin integroitu sen sosiaaliseen mediaan ja viestintäalustaan, mukaan lukien Facebook, Instagram ja WhatsApp.

Tämä ei ole ensimmäinen kerta, kun Metan AI-tarratyökalu on herättänyt kiistaa. Ennen kuin se asetettiin yleisesti saataville, beta-testaajat havaitsivat, että se tuotti sopimattomia, outoja tai rivo kuvia sarjakuvahahmoista, poliitikoista ja sukuelimistä. Se loi kuvia Kanadan pääministeristä Justin Trudeausta korostetuilla pakaroilla tai Sonic the Hedgehogilla rinnoilla ja erilaisilla falloskarikatyyreillä.

Samaan aikaan Meta vannoi tukahduttavansa väärää tietoa ja väkivaltaista, graafista materiaalia Israelin ja Hamasin välisestä sodasta, joka on lähetetty sen alustoille. Tiedottaja Andy Stone kertoi CNN-yritys oli perustanut erikoisoperaatiokeskuksen ja palkannut sujuvasti heprean ja arabian puhujia käsittelemään sisältöä.

"Tiimimme työskentelevät ympäri vuorokauden pitääkseen alustamme turvassa, ryhtyvät toimiin käytäntöjemme tai paikallisen lakimme vastaisen sisällön suhteen ja koordinoivat toimintaamme alueella toimivien kolmansien osapuolien faktantarkistajien kanssa väärien tietojen leviämisen rajoittamiseksi. Jatkamme tätä työtä tämän konfliktin edetessä", hän sanoi.

Meta myös maanantaina vannoiReutersin kautta kieltääkseen poliittisia mainostajia käyttämästä sen generatiivia AI-käyttöinen mainospaketti.

Rekisteri on pyytänyt WhatsAppin vanhemmalta lisäkommentteja. ®

• SEO-pohjainen sisällön ja PR-jakelu. Vahvista jo tänään.
• PlatoData.Network Vertical Generatiivinen Ai. Vahvista itseäsi. Pääsy tästä.
• PlatoAiStream. Web3 Intelligence. Tietoa laajennettu. Pääsy tästä.
• PlatoESG. hiili, CleanTech, energia, ympäristö, Aurinko, Jätehuolto. Pääsy tästä.
• PlatonHealth. Biotekniikan ja kliinisten kokeiden älykkyys. Pääsy tästä.
• Lähde: https://go.theregister.com/feed/www.theregister.com/2023/11/07/whatsapp_ai_stickers_palestinian/