Zihinsel olarak yaralı: Kenyalı işçiler, ChatGPT'ye rahatsız edici metinleri tanımayı öğretti

OpenAI'nin, ChatGPT modelini daha az toksik hale getirmeye yardımcı olmak için Kenya'da işçileri işe aldığı ve on binlerce metin örneğini cinsiyetçi, ırkçı, şiddet içeren ve pornografik içerik için taradığı bildirildi.

Geçen Kasım ayında piyasaya sürülen ChatGPT, interneti kasıp kavurdu. Bir giriş istemi verildiğinde otomatik olarak metin oluşturma yeteneği, milyonlarca kullanıcının her türden farklı görevi yerine getirmesi talimatını vermesine yol açtı - şakalar yapmak, kod yazmak, soruları yanıtlamak ve daha fazlası.

Bu talimatların tümü tamamen zararsız değildi - sonuçta biz sadece insanız. Ancak ChatGPT, önceki sürümü GPT-3'ten daha konuşkan ve daha güvenli olacak şekilde tasarlanmıştır - hataları kabul edebilir ve uygunsuz istekleri yerine getirmeyi reddedebilir.

Saldırgan ve küfürlü dilin özelliklerini öğrenmek için ChatGPT'nin güvenli ve zararlı içerik arasındaki farkı gösteren çok miktarda temiz, etiketli veri üzerinde eğitilmesi gerekiyordu.

Verileri etiketlemek zahmetli ve zaman alıcıdır. İş, genellikle işçiliğin daha ucuz olduğu ülkelerden çalışanları işe alan yüklenicilere yaptırılır. 2021'de OpenAI'nin yaklaşık 200,000 $ değerinde üç sözleşme imzaladığı bildirildi. sama - San Francisco merkezli ve gelişmekte olan ülkelerde faaliyet gösteren veri ek açıklama hizmetleri sağlayan bir girişim - bir göre ChatGPT'yi eğitmek için metni etiketlemek rapor in Zaman bu hafta.

Sama daha sonra Kenya'da üç gruba ayrılan üç düzine işçiyi işe aldı ve her biri cinsel taciz, nefret söylemi ve şiddet içeren binlerce metin örneğini taramakla görevlendirildi.

İnternetten alıntılanan metin, cinayet, intihar, işkence ve ensest dahil olmak üzere her türlü tehlikeli, yasa dışı ve ahlaksız eylemi anlatıyordu. Bazı çalışanlar, çok fazla korkunç içeriği işlemek zorunda kaldıkları için travma geçirdiklerini bildirdi. Bir adam, küçük bir çocuğun yanında bir köpekle seks yapan bir adamı anlatan bir pasajı okuduktan sonra tekrarlayan vizyonlardan muzdarip olduğunu söyledi.

"Bu bir işkenceydi" dedi. “Bütün hafta boyunca bunun gibi bir dizi ifade okuyacaksınız. Cuma gününe gelindiğinde, o resmi düşünmekten rahatsız oluyorsunuz.”

İşçiler dokuz saatlik vardiyalara katlandılar ve saatte 163 ila 248 Kenya Şilini kazandılar. Bu, yaklaşık 1.32 ila 2 ABD Doları anlamına geliyor - 200'te 2023 milyon ABD Doları ciro yapması öngörülen OpenAI için gerçekten önemsiz meblağlar.

ChatGPT ile ilgili olmayan başka bir veri etiketleme sözleşmesi, Sama'nın çalışanlardan ölüm, tecavüz ve hayvanlarla cinsel ilişki gibi şeyleri tasvir eden müstehcen, pornografik ve şiddet içeren resimler bulmasını istemesini içeriyordu. Bazıları ABD'de yasa dışı olacak olan içeriğin, Sama'nın OpenAI ile olan sözleşmelerini başlangıçta planlanandan sekiz ay önce, Şubat 2022'ye kadar sonlandırmasına neden olduğu iddia ediliyor. Sama tarafından işe alınan çalışanlara, girişimin başka bir içerik denetleme projesinde Meta'nın Facebook'u ile çalıştığı için sert eleştirilere maruz kalması üzerine OpenAI ile çalışmalarının iptal edildiği söylendi.

“Sama, OpenAI sözleşmesini Doğu Afrika'daki ekibin talep edilen işten rahatsız olması nedeniyle sonlandırdı. Meta sözleşmesinin sonu ayrıdır, ancak ilişkilidir. Bir şirket sözcüsü bize, küresel ekibiyle görüştükten sonra, şirketin vizyon ve misyonuyla uyuşmadığı için tüm içerik denetleme işlerinden ayrılma kararı aldı.

Yeni girişim, Mart 2023'te içerik denetimi için tüm veri etiketleme projelerini sonlandıracak ve bize söylenene göre iş taleplerini gözden geçirecek bir grup çalışandan oluşan bir "etik loncası" kurdu.

ile paylaşılan açıklamalarda Zaman, OpenAI, ChatGPT'yi eğitmek için kullanılan verileri etiketlemek için Sama ile birlikte çalıştığını doğruladı ve toplamak istedikleri görüntü türleri hakkında bir yanlış iletişim olduğunu söyledi. Bildirildiğine göre yasadışı görüntüler istemedi ve onları görüntülemedi.

bir doların değeri

Sama'dan bir sözcü, "Açıklığa kavuşturmak için, Sama ayda 26,600 ila 40,000 Kenya Şilini (209 ila 322 $) ödüyor, bu Kenya'daki asgari ücretin iki katından fazla ve aynı zamanda yaşama ücretinin çok üzerinde" dedi. Kayıt.

“Bunu ABD ücretleriyle karşılaştırmak, durumu yanlış tanımlayan yanlış bir eşdeğerliktir. Karşılaştırmalı bir Batı ücreti saatte 30 ila 45 dolar arasında olacaktır. Sama, bölgedeki diğer içerik moderatörlerinin ödediğinin neredeyse iki katını ödüyor ve tam bir sosyal yardım ve emeklilik paketi sunuyor.

"Misyonumuz, yapay genel zekanın tüm insanlığa fayda sağlamasını sağlamak ve önyargıyı ve zararlı içeriği sınırlayan güvenli ve kullanışlı yapay zeka sistemleri oluşturmak için çok çalışıyoruz. Zararlı [metin ve resimlerin] sınıflandırılması ve filtrelenmesi, eğitim verilerinde yer alan şiddet içeren ve cinsel içerik miktarını en aza indirmek ve zararlı içeriği tespit edebilecek araçlar oluşturmak için gerekli bir adımdır.”

Sama gibi veri etiketleme şirketleri, daha fakir ülkelerdeki insanları yoksulluktan kurtarmaya yardımcı olduklarını söylüyor, ancak Zaman'ın araştırması, yapay zeka modellerinin görünüşte sihirli olan yeteneklerinin, düşük maliyetli iş gücü üzerine inşa edildiğini kesin bir şekilde hatırlatıyor.

“Sama'nın misyonu, normalde eşit kariyer fırsatlarına sahip olamayacak yetenekli insanlara iş vererek kayıtlı istihdamın önündeki engelleri yıkmaktır. Sama, aksi takdirde giriş seviyesi teknoloji işleri için niteliklere sahip olmayacak kişileri istihdam eder ve ardından sürekli eğitim dersleri, özgeçmiş yazma dersleri, finansal eğitim dersleri ve içeride ilerleme fırsatları sunarak onları - sadece bir iş için değil, bir kariyer yolu için - eğitir. veya örgütün dışında, ”dedi bir sözcü bize yaptığı açıklamada.

"Sama 60,000'den fazla kişiyi etkiledi, burs programlarımız aracılığıyla 20 kişiyi üniversiteye gönderdi ve çalışan işletmeleri ve yeni kurulan şirketler için 160,000 $ fon sağladı."

Bu arada, yapay genel zeka yutturmaca artmaya devam ediyor. En iyi yapay zeka şirketleri bile, çok az veya hiç insan denetimi olmadan verilerden kalıpları etkili bir şekilde öğrenecek kadar gelişmiş modeller oluşturmanın sırrını henüz çözebilmiş değil.

Teknoloji ilerlemiş olabilir, ancak yine de milyonlarca dolar kazanan teknoloji şirketlerine dev yapay zeka modelleri eğitmek için bilgisayar ekranlarının önünde oturup gün boyu tekrar eden ve monoton görevleri yerine getiren gelişmekte olan ülkelerdeki işçilere güveniyor.

Kayıt OpenAI'den yorum istedi. ®

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• Plato blok zinciri. Web3 Metaverse Zekası. Bilgi Güçlendirildi. Buradan Erişin.
• Kaynak: https://go.theregister.com/feed/www.theregister.com/2023/01/20/kenyan_workers_chatgpt/