Mentally Scarred: Kenyan Workers Taught ChatGPT To Recognize Offensive Text

Újra kiadta Platón

Követő: 0

Mentally scarred: Kenyan workers taught ChatGPT to recognize offensive text PlatoBlockchain Data Intelligence. Vertical Search. Ai.

Az OpenAI állítólag Kenyában alkalmazott munkásokat – több tízezer szövegmintát szűrt át szexista, rasszista, erőszakos és pornográf tartalmak keresésére –, hogy kevésbé mérgezővé tegye ChatGPT-modelljét.

A tavaly novemberben kiadott ChatGPT lázba hozta az internetet. Az a képessége, hogy egy beviteli parancsra automatikusan szöveget generál, felhasználók millióihoz utasította, hogy különféle feladatokat hajtson végre – vicceket mondjon, kódot írjon, kérdéseket válaszoljon meg és így tovább.

Ezeknek az utasításoknak nem mindegyike volt teljesen jóindulatú – végül is csak emberek vagyunk. A ChatGPT-t azonban úgy tervezték, hogy beszélgetésképesebb és biztonságosabb legyen, mint elődje, a GPT-3 – képes elismerni a hibákat, és megtagadja a nem megfelelő kérések végrehajtását.

A sértő és sértő nyelvezet jellemzőinek megismerése érdekében a ChatGPT-nek hatalmas mennyiségű tiszta, címkézett adatot kellett képeznie, amely megmutatja a különbséget a biztonságos és a káros tartalom között.

Az adatok címkézése fárasztó és időigényes. A munkát jellemzően olyan vállalkozóknak adják ki, akik olyan országokból toboroznak alkalmazottakat, ahol olcsóbb a munkaerő. 2021-ben az OpenAI három szerződést írt alá körülbelül 200,000 XNUMX dollár értékben sama – egy San Franciscó-i székhelyű, fejlődő országokban működő, adatfeljegyzési szolgáltatásokat nyújtó startup – a ChatGPT képzéséhez szükséges szöveg címkézésére. jelentést in Time ezen a héten.

Sama ezután három tucat dolgozót toborzott Kenyában, akiket három csoportra osztottak, és mindegyiküknek az volt a feladata, hogy szexuális visszaélést, gyűlöletbeszédet és erőszakot tartalmazó szövegmintákat fésüljenek át.

Az internetről kikapart szöveg mindenféle veszélyes, illegális és szemérmetlen cselekedetet írt le, beleértve a gyilkosságot, az öngyilkosságot, a kínzást és a vérfertőzést. Egyes alkalmazottak arról számoltak be, hogy traumatizáltak, amiért ennyi szörnyű tartalmat kellett feldolgozniuk. Egy férfi azt mondta, hogy visszatérő látomásoktól szenvedett, miután elolvasott egy részt, amely egy férfiról írt, aki egy kutyával szexelt egy kisgyermek társaságában.

„Ez kínzás volt” – mondta. „Számos ehhez hasonló kijelentést fog olvasni a hét folyamán. Mire elérkezik a péntek, már megzavart attól, hogy végiggondolja ezt a képet.

A munkások kilenc órás műszakot viseltek, és óránként 163 és 248 kenyai shillinget kerestek. Ez körülbelül 1.32-2 dollár – valóban jelentéktelen összegek az OpenAI számára, amely 200-ban 2023 millió dolláros forgalomra számíthat.

Egy másik, a ChatGPT-vel nem kapcsolatos adatcímkézési szerződésben Sama arra kérte az alkalmazottakat, hogy találjanak olyan csúnya, pornográf és erőszakos képeket, amelyek olyan dolgokat ábrázolnak, mint a halál, a nemi erőszak és az állatiasság. A tartalom – amelyek egy része illegális lenne az Egyesült Államokban – állítólag arra késztette Sama-t, hogy 2022 februárjáig felmondja az OpenAI-val kötött szerződését, nyolc hónappal az eredeti tervek előtt. A Sama által toborzott alkalmazottaknak állítólag azt mondták, hogy az OpenAI-val végzett munkájukat bedobták, miután a startup kemény kritikával szembesült, amiért a Meta Facebookjával dolgozott egy másik tartalommoderációs projekten.

„Sama felmondta az OpenAI-szerződést, mert a kelet-afrikai csapat nem volt elégedett a kért munkával. A Meta szerződés vége különálló, de kapcsolódó. A globális csapattal folytatott konzultációt követően Sama úgy döntött, hogy kilép minden tartalommoderálási munkából, mivel az nem volt összhangban a vállalat jövőképével és küldetésével” – mondta lapunknak a cég szóvivője.

A feltörekvő 2023 márciusában leállítja az összes adatcímkézési projektet a tartalom moderálása érdekében, és felállított egy „etikai céhet” – egy olyan alkalmazotti csoportot, amely felülvizsgálja a munkakéréseket.

Vele megosztott nyilatkozatokban TimeAz OpenAI megerősítette, hogy együttműködött Samával a ChatGPT betanításához használt adatok címkézésében, és azt mondta, hogy félreértés történt az általuk gyűjteni kívánt képek típusával kapcsolatban. Állítólag nem akart illegális képeket, és nem is nézte meg azokat.

Egy dollár értéke

"Egyértelművé téve, Sama 26,600 40,000 és 209 322 kenyai shilling (XNUMX és XNUMX dollár) közötti összeget fizet havonta, ami több mint kétszerese a kenyai minimálbérnek, és jóval meghaladja a megélhetési bért" - mondta el Sama szóvivője. A regisztráció.

„Az Egyesült Államok béreivel való összehasonlítás hamis egyenértékűség, amely rosszul jellemzi a helyzetet. Egy összehasonlító nyugati bér óránként 30 és 45 dollár között lenne. Sama csaknem dupláját fizeti annak, mint amennyit a többi tartalommoderátor fizet a környéken, és teljes ellátást és nyugdíjcsomagot kínál.

„Küldetésünk annak biztosítása, hogy az általános mesterséges intelligencia az egész emberiség javát szolgálja, és keményen dolgozunk a biztonságos és hasznos mesterséges intelligenciarendszerek felépítésén, amelyek korlátozzák az elfogultságot és a káros tartalmakat. A káros [szöveg és képek] osztályozása és szűrése szükséges lépés a képzési adatokban szereplő erőszakos és szexuális tartalom mennyiségének minimalizálásában, és olyan eszközök létrehozásában, amelyek képesek a káros tartalmak észlelésére.”

Az olyan adatcímkéző vállalkozások, mint a Sama, azt állítják, hogy segítenek kiemelni az embereket a szegénységből a szegényebb országokban, de TimeA nyomozás határozottan emlékeztet arra, hogy az AI-modellek varázslatosnak tűnő képességei az alacsony költségű munkaerő hátterére épülnek.

„Sama küldetése, hogy lebontsa a formális munkavállalás előtt álló akadályokat azáltal, hogy olyan tehetséges embereknek ad munkát, akiknek egyébként nem lenne egyenlő karrierlehetősége. A Sama olyan embereket alkalmaz, akik egyébként nem rendelkeznének a belépő szintű műszaki állásokhoz szükséges képesítéssel, majd továbbképzési órákat, önéletrajzírási órákat, pénzügyi oktatási órákat és belső előrelépési lehetőségeket kínálva képezi őket – nem csak állásra, hanem karrierre is. vagy a szervezeten kívül” – nyilatkozta lapunknak egy szóvivő.

"Sama több mint 60,000 20 embert érintett, 160,000 embert küldött az egyetemre ösztöndíjprogramjaink révén, és XNUMX XNUMX dollár finanszírozást nyújtott alkalmazotti vállalkozásoknak és induló vállalkozásoknak."

Eközben a mesterséges általános intelligencia hírverése tovább erősödik. Még a legjobb mesterséges intelligencia-cégek sem fejtették meg a titkot, hogy olyan fejlett modelleket építsenek, amelyek hatékonyan tanulják meg a mintákat az adatokból, kevés vagy emberi felügyelet nélkül.

Lehet, hogy a technológia fejlődött, de továbbra is a fejlődő országok dolgozóira támaszkodik, akik a számítógép képernyője előtt ülve egész nap ismétlődő és monoton feladatokat végeznek, hogy óriási mesterségesintelligencia-modelleket képezzenek ki a több millió dollárt kereső technológiai cégek számára.

A regisztráció megjegyzést kért az OpenAI-tól. ®