Terluka secara mental: Pekerja Kenya mengajarkan ChatGPT untuk mengenali teks yang menyinggung

OpenAI dilaporkan mempekerjakan pekerja di Kenya – menyaring puluhan ribu sampel teks untuk konten seksis, rasis, kekerasan, dan pornografi – untuk membantu membuat model ChatGPT-nya tidak terlalu beracun.

Dirilis November lalu, ChatGPT telah menggemparkan internet. Kemampuannya untuk menghasilkan teks secara otomatis dengan prompt input telah menyebabkan jutaan pengguna menginstruksikannya untuk melakukan semua jenis tugas yang berbeda – menceritakan lelucon, menulis kode, menjawab pertanyaan, dan banyak lagi.

Tidak semua instruksi itu sepenuhnya jinak – bagaimanapun juga kita hanyalah manusia. Namun, ChatGPT dirancang untuk lebih komunikatif dan lebih aman daripada pendahulunya GPT-3 – dapat menerima kesalahan dan menolak untuk melakukan permintaan yang tidak pantas.

Untuk mempelajari karakteristik bahasa yang menyinggung dan kasar, ChatGPT perlu dilatih tentang sejumlah besar data berlabel bersih yang menunjukkan perbedaan antara konten yang aman dan berbahaya.

Pelabelan data membosankan dan memakan waktu. Pekerjaan tersebut biasanya dialihdayakan ke kontraktor yang merekrut karyawan dari negara-negara di mana tenaga kerja lebih murah. Pada tahun 2021, OpenAI dilaporkan menandatangani tiga kontrak senilai sekitar $200,000 Sama – startup yang menyediakan layanan anotasi data yang berbasis di San Francisco dan beroperasi di negara berkembang – untuk memberi label teks untuk melatih ChatGPT, menurut a melaporkan in Waktu minggu ini.

Sama kemudian merekrut tiga lusin pekerja di Kenya yang dibagi menjadi tiga kelompok, masing-masing bertugas menyisir ribuan sampel teks berisi pelecehan seksual, ujaran kebencian, dan kekerasan.

Diambil dari internet, teks tersebut menggambarkan segala macam tindakan berbahaya, ilegal dan cabul termasuk pembunuhan, bunuh diri, penyiksaan dan inses. Beberapa karyawan melaporkan mengalami trauma karena harus memproses begitu banyak konten yang mengerikan. Seorang pria mengatakan dia menderita penglihatan yang berulang setelah membaca sebuah bagian yang menggambarkan seorang pria berhubungan seks dengan seekor anjing ditemani seorang anak kecil.

"Itu siksaan," katanya. “Anda akan membaca sejumlah pernyataan seperti itu sepanjang minggu. Pada saat hari Jumat, Anda terganggu karena memikirkan gambar itu.

Para pekerja bertahan dalam shift sembilan jam, dan menghasilkan antara 163 dan 248 Shilling Kenya per jam. Itu sekitar $1.32 hingga $2 – jumlah yang benar-benar tidak signifikan untuk OpenAI, yang diperkirakan akan menghasilkan $200 juta pada tahun 2023.

Kontrak pelabelan data lain yang tidak terkait dengan ChatGPT melibatkan Sama yang meminta karyawan untuk menemukan gambar-gambar menjijikkan, pornografi, dan kekerasan yang menggambarkan hal-hal seperti kematian, pemerkosaan, dan kebinatangan. Konten tersebut – beberapa di antaranya ilegal di AS – diduga mendorong Sama untuk mengakhiri kontraknya dengan OpenAI pada Februari 2022, delapan bulan sebelum rencana semula. Karyawan yang direkrut oleh Sama dilaporkan diberitahu bahwa pekerjaan mereka dengan OpenAI dikalengkan setelah startup menghadapi kritik keras karena bekerja dengan Facebook Meta pada proyek moderasi konten lainnya.

“Sama mengakhiri kontrak OpenAI karena tim di Afrika Timur merasa tidak nyaman dengan pekerjaan yang diminta. Akhir kontrak Meta terpisah, tetapi terkait. Setelah berkonsultasi dengan tim globalnya, Sama membuat keputusan untuk keluar dari semua pekerjaan moderasi konten karena tidak sejalan dengan visi dan misi perusahaan,” kata juru bicara perusahaan kepada kami.

Perusahaan baru ini akan mengakhiri semua proyek pelabelan data untuk moderasi konten pada Maret 2023 dan telah menyiapkan “gilda etika” – sekelompok karyawan yang akan meninjau permintaan kerja, demikian kami diberitahu.

Dalam pernyataan yang dibagikan dengan Waktu, OpenAI mengonfirmasi telah bekerja dengan Sama untuk memberi label data yang digunakan untuk melatih ChatGPT dan mengatakan ada miskomunikasi tentang jenis gambar yang ingin mereka kumpulkan. Dilaporkan tidak menginginkan gambar ilegal dan tidak melihatnya.

Nilai satu dolar

“Untuk mengklarifikasi, Sama membayar antara 26,600 dan 40,000 Shilling Kenya ($209 hingga $322) per bulan, yang lebih dari dua kali lipat upah minimum di Kenya dan juga jauh di atas upah layak,” kata juru bicara Sama kepada Pendaftaran.

“Membandingkannya dengan upah AS adalah persamaan palsu yang salah mengartikan situasi. Upah Barat komparatif adalah antara $30 dan $45 per jam. Sama membayar hampir dua kali lipat dari gaji moderator konten lain di area tersebut, dan menawarkan manfaat penuh dan paket pensiun.

“Misi kami adalah memastikan kecerdasan umum buatan bermanfaat bagi seluruh umat manusia, dan kami bekerja keras untuk membangun sistem AI yang aman dan berguna yang membatasi bias dan konten berbahaya. Mengklasifikasikan dan memfilter [teks dan gambar] berbahaya adalah langkah penting untuk meminimalkan jumlah konten kekerasan dan seksual yang disertakan dalam data pelatihan dan membuat alat yang dapat mendeteksi konten berbahaya.”

Bisnis pelabelan data seperti Sama mengatakan bahwa mereka membantu mengangkat orang keluar dari kemiskinan di negara-negara miskin, tetapi WaktuInvestigasi adalah pengingat nyata bahwa kemampuan model AI yang tampaknya ajaib dibangun di atas tenaga kerja murah.

“Misi Sama adalah mendobrak hambatan terhadap pekerjaan formal dengan memberikan pekerjaan kepada orang-orang berbakat yang mungkin tidak memiliki kesempatan karir yang sama. Sama mempekerjakan orang-orang yang tidak memiliki kualifikasi untuk pekerjaan teknologi tingkat pemula, kemudian melatih mereka – tidak hanya untuk pekerjaan, tetapi jalur karier – dengan menawarkan kelas pendidikan berkelanjutan, kelas menulis CV, kelas pendidikan keuangan, dan kesempatan untuk maju di dalam atau di luar organisasi,” kata seorang juru bicara kepada kami dalam sebuah pernyataan.

“Sama telah memengaruhi lebih dari 60,000 orang, mengirim 20 orang ke universitas melalui program beasiswa kami, dan memberikan $160,000 dalam pendanaan untuk bisnis karyawan dan startup.”

Sementara itu, hype kecerdasan umum buatan terus meningkat. Bahkan perusahaan AI terbaik pun belum memecahkan rahasia membangun model yang cukup canggih untuk mempelajari pola dari data secara efektif dengan sedikit atau tanpa pengawasan manusia.

Teknologinya mungkin telah berkembang, tetapi masih bergantung pada pekerja dari negara berkembang yang duduk di depan layar komputer melakukan tugas yang berulang dan monoton sepanjang hari untuk melatih model AI raksasa bagi perusahaan teknologi yang menghasilkan jutaan dolar.

Pendaftaran telah meminta komentar OpenAI. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/01/20/kenyan_workers_chatgpt/