Saya telah dipecat, kata insinyur yang mengklaim Google chatbot adalah makhluk hidup

Secara singkat Google dilaporkan telah memecat Blake Lemoine, insinyur yang ditempatkan pada cuti administratif setelah bersikeras chatbot LaMDA raksasa web itu hidup.

Lemoine tidak mendapat masalah karena mempertahankan pendapat kontroversialnya tentang model tersebut. Sebaliknya, dia dihukum karena melanggar kebijakan kerahasiaan Google. Dia kabarnya mengundang seorang pengacara untuk menilai potensi hak hukum untuk LaMDA dan berbicara dengan Perwakilan DPR yang mengklaim bahwa Google tidak etis.

Seorang juru bicara Google mengatakan buletin Teknologi Besar telah memutuskan untuk menghentikan pekerjaannya karena Lemoine terus melanggar "kebijakan ketenagakerjaan dan keamanan data" yang membahayakan rahasia dagang.

“Jika seorang karyawan berbagi kekhawatiran tentang pekerjaan kami, seperti yang dilakukan Blake, kami meninjaunya secara ekstensif. Kami menemukan klaim Blake bahwa LaMDA adalah makhluk yang sepenuhnya tidak berdasar dan bekerja untuk mengklarifikasi hal itu dengannya selama berbulan-bulan. Diskusi ini adalah bagian dari budaya terbuka yang membantu kami berinovasi secara bertanggung jawab,” kata juru bicara tersebut.

“Jadi, sangat disesalkan bahwa meskipun keterlibatan panjang pada topik ini, Blake masih memilih untuk terus-menerus melanggar kebijakan ketenagakerjaan dan keamanan data yang jelas yang mencakup kebutuhan untuk melindungi informasi produk. Kami akan melanjutkan pengembangan model bahasa kami dengan hati-hati, dan kami berharap Blake baik-baik saja.”

Banyak ahli di Google dan di akademisi dan industri meragukan apakah LaMDA atau chatbot AI yang ada itu hidup. Model bahasa mempelajari hubungan matematis antara kata-kata, dan pandai meniru bahasa manusia tanpa memiliki pemahaman yang nyata. Tak satu pun dari mereka yang benar-benar cerdas, apalagi sadar.

Mengapa pengembang tidak dapat menjalankan kode AI sumber terbuka

Apa gunanya merilis kode untuk model pembelajaran mesin jika pengembang tidak memiliki sumber daya yang diperlukan untuk menjalankannya?

Perangkat lunak AI terkenal sulit untuk diputar dan dicoba sendiri meskipun itu open source. Potongan-potongan sumber ditinggalkan, atau kumpulan data yang diperlukan untuk melatih model tidak tersedia. Terkadang bagian-bagian ini dapat diakses, tetapi pengembang tidak memiliki kekuatan komputasi untuk menggunakan sistem sebesar itu.

Ambil Meta Buka Transformator Pralatih, Misalnya. Versi terbesar dari model bahasa berisi 175 miliar parameter. Meskipun raksasa iklan merilis kodenya, tidak banyak yang memiliki cukup chip untuk melatih dan menggunakan model dari awal, Matt Asay, yang menjalankan pemasaran mitra di MongoDB, terkenal dalam kapasitas pribadi.

“Kuncinya adalah menyediakan akses yang cukup bagi para peneliti untuk dapat mereproduksi keberhasilan dan kegagalan cara kerja model AI tertentu… Sebagai perusahaan dan individu, tujuan kami adalah membuka akses ke perangkat lunak dengan cara yang menguntungkan pelanggan kami dan pihak ketiga. pengembang pihak untuk mendorong akses dan pemahaman alih-alih mencoba memasang kembali konsep open source yang sudah berusia puluhan tahun ke cloud, ”bantahnya.

Dall-E OpenAI memasuki mode beta

Model generasi teks-ke-gambar komersial OpenAI DALL·E 2 dibuka untuk satu juta lebih orang yang bergabung dalam daftar tunggunya.

Akses sebelumnya terbatas pada artis, peneliti, dan pengembang terpilih karena OpenAI ingin menguji sistemnya sebelum rilis komersial penuh. Orang-orang telah menggunakan alat ini untuk menghasilkan segala macam gambar untuk membuat meme internet, buku komik, atau seni digital. 

Pengguna akan menerima 50 kredit gratis selama bulan pertama penggunaan mereka, dan 15 kredit gratis setiap bulan setelahnya. Setiap kredit dapat digunakan untuk menghasilkan satu generasi prompt Dall-E asli, dan mereka akan mendapatkan empat gambar sebagai output, bukan enam sebelumnya. Mengedit petunjuk teks yang ada akan mengembalikan tiga gambar. Jika mereka ingin menghasilkan lebih banyak, mereka harus membayar $15 untuk mendapatkan 115 kredit lagi untuk 460 gambar tambahan. 

Mereka juga akan dapat mengkomersialkan gambar apa pun yang mereka hasilkan menggunakan model, yang berarti pencipta memiliki hak untuk menjual dan mencetak gambar mereka untuk barang dagangan dan sejenisnya. “Kami senang melihat apa yang dibuat orang dengan DALL·E dan menantikan umpan balik pengguna selama periode beta ini,” lab penelitian tersebut minggu ini. 

Mengintip anak-anak dengan pengenalan wajah

Layanan pengenalan wajah komersial online kontroversial PimEyes dapat digunakan untuk mencari gambar anak-anak yang “berpotensi eksplisit”.

PimEyes memungkinkan siapa saja untuk mengunggah foto, mencari kecocokan potensial, dan mengembalikan gambar dan URL yang sesuai. Dipasarkan sebagai alat penghemat privasi, di mana pengguna dapat melihat di mana gambar diri mereka telah diposting di internet, layanan tersebut mengatakan telah membantu memerangi masalah seperti balas dendam porno.

Tapi ada sisi gelapnya juga. Siapa pun dapat menggunakan situs web untuk mencari foto siapa pun yang mereka sukai, bahkan anak-anak. Sebuah investigasi oleh The Intercept menemukan bahwa mudah untuk menemukan foto anak-anak, dan beberapa dari gambar ini bahkan diberi label sebagai "berpotensi eksplisit." Gambar anak-anak palsu yang dihasilkan AI digunakan dalam percobaan, dan PimEyes masih menampilkan kecocokan, yang menunjukkan bahwa perangkat lunaknya mungkin tidak terlalu akurat.

“Fakta bahwa PimEyes tidak memiliki perlindungan untuk anak-anak dan tampaknya tidak yakin bagaimana memberikan perlindungan untuk anak-anak hanya menggarisbawahi risiko layanan pengenalan wajah semacam ini,” Jeramie Scott, direktur Proyek Pengawasan Pengawasan di Electronic Pusat Informasi Privasi, seperti dikutip. “Berpartisipasi di depan umum, baik online atau offline, tidak berarti membuat diri Anda tunduk pada layanan privasi-invasif seperti PimEyes.”

Alat tulis bertenaga AI membantu penulis indie menerbitkan lebih banyak buku

Pembuatan konten seringkali merupakan bisnis yang sulit. Anda harus sering membuat materi baru untuk mempertahankan dan menumbuhkan pemirsa.

Seorang penulis fiksi independen, yang menerbitkan karyanya di platform Kindle Amazon dengan nama pena Leanne Leeds, menggambarkan kekuatan dan keterbatasan menggunakan alat penghasil teks bertenaga GPT-3 sebagai mitra penulisan.

Dengan memasukkan kalimat ke dalam perangkat lunak bernama Sudowrite, penulis seperti Leeds bisa mendapatkan kembali bagian teks yang dihasilkan secara otomatis; itu bertindak seperti pelengkapan otomatis yang lebih cerdas. Leeds mengatakan Verge produktivitasnya telah meningkat lebih dari 20 persen saat menggunakan ini untuk menyusun prosanya. Dia mengedit output perangkat lunak dan memasukkan paragraf ke dalam bukunya. Sudowrite membantunya menulis buku lebih cepat untuk membuat pembaca lebih tertarik. 

Tetapi penulis terpecah karena penggunaan AI. Beberapa percaya itu bertentangan dengan kreativitas dan keajaiban sastra, sementara yang lain melihat potensinya untuk mendongeng. Haruskah penulis mengungkapkan bahwa buku mereka telah ditulis dengan bantuan algoritma? Dan yang lebih penting, apakah coretan yang dibuat secara otomatis ini bagus?

Saat ini, mesin tidak cukup baik dan membutuhkan pengeditan untuk menjaga narasi dan alur cerita agar tidak keluar jalur. Leeds percaya alat seperti Sudowrite suatu hari akan cukup baik untuk menulis fiksi umum. “Saya pikir itulah bahaya yang sebenarnya, bahwa Anda dapat melakukan itu dan kemudian tidak ada lagi yang orisinal. Semuanya hanya salinan dari sesuatu yang lain, ”katanya. “Masalahnya, itulah yang disukai pembaca.” ®