Rancangan peraturan EU AI Act dapat memiliki efek mengerikan pada perangkat lunak sumber terbuka

Secara singkat Aturan baru yang dirancang oleh Uni Eropa yang bertujuan untuk mengatur AI dapat mencegah pengembang merilis model sumber terbuka, menurut lembaga think tank Amerika Brookings.

Grafik diusulkan EU AI Act, yang belum ditandatangani menjadi undang-undang, menyatakan bahwa pengembang open source harus memastikan perangkat lunak AI mereka akurat, aman, dan transparan tentang risiko dan penggunaan data dalam dokumentasi teknis yang jelas. 

Brookings berpendapat bahwa jika perusahaan swasta menyebarkan model publik atau menggunakannya dalam suatu produk, dan entah bagaimana mendapat masalah karena beberapa efek yang tidak terduga atau tidak terkendali dari model tersebut, perusahaan mungkin akan mencoba menyalahkan pengembang open source dan menuntut mereka . 

Ini mungkin memaksa komunitas open source untuk berpikir dua kali untuk merilis kode mereka, dan sayangnya, berarti pengembangan AI akan didorong oleh perusahaan swasta. Kode kepemilikan sulit untuk dianalisis dan dibangun, yang berarti inovasi akan terhambat.

Oren Etzioni, CEO Allen Institute of AI, menganggap pengembang open source tidak boleh tunduk pada aturan ketat yang sama seperti insinyur perangkat lunak di perusahaan swasta.

“Pengembang open source seharusnya tidak dikenakan beban yang sama dengan mereka yang mengembangkan perangkat lunak komersial. Seharusnya selalu terjadi bahwa perangkat lunak bebas dapat disediakan 'apa adanya' — pertimbangkan kasus seorang siswa yang mengembangkan kemampuan AI; mereka tidak mampu untuk mematuhi peraturan UE dan mungkin dipaksa untuk tidak mendistribusikan perangkat lunak mereka, sehingga memiliki efek mengerikan pada kemajuan akademik dan reproduktifitas hasil ilmiah, ”dia mengatakan TechCrunch.

Hasil MLPerf baru untuk inferensi sudah keluar

Hasil uji inferensi MLPerf tahunan, yang membandingkan kinerja chip AI dari vendor yang berbeda di berbagai tugas dalam berbagai konfigurasi telah diterbitkan minggu ini.

Hampir 5,300 hasil kinerja dan 2,400 ukuran daya dilaporkan tahun ini untuk inferensi di pusat data dan perangkat edge. Pengujian melihat seberapa cepat sistem perangkat keras dapat menjalankan model pembelajaran mesin tertentu. Tingkat pemrosesan data dilaporkan dalam spreadsheet.

Tidak mengherankan bahwa Nvidia menduduki peringkat teratas lagi tahun ini. “Dalam debut mereka di benchmark AI standar industri MLPerf, GPU Nvidia H100 Tensor Core mencetak rekor dunia dalam inferensi pada semua beban kerja, memberikan kinerja hingga 4.5x lebih banyak daripada GPU generasi sebelumnya,” Nvidia mengungkapkan dalam sebuah posting blog. “Hasilnya menunjukkan bahwa Hopper adalah pilihan premium bagi pengguna yang menuntut kinerja maksimal pada model AI canggih.”

Meskipun semakin banyak vendor yang mengambil bagian dalam tantangan MLPerf, mungkin sulit untuk mendapatkan ide yang bagus tentang kompetisi tersebut. Tidak ada hasil yang dilaporkan untuk chip TPU Google di jalur pusat data tahun ini, misalnya. Namun, Google tampaknya kartu as Kompetisi pelatihan MLPerf awal tahun ini. 

Seniman AI menemukan wajah mengerikan bersembunyi di balik gambar

Sebuah utas Twitter viral yang diposting oleh seorang seniman digital mengungkapkan betapa anehnya model teks-ke-gambar dapat berada di bawah permukaan.

Banyak netizen menemukan kegembiraan dan keputusasaan dalam bereksperimen dengan sistem ini untuk menghasilkan gambar dengan mengetikkan petunjuk teks. Ada semacam peretasan untuk menyesuaikan keluaran model; salah satunya, yang dikenal sebagai "permintaan negatif, memungkinkan pengguna untuk menemukan gambar yang berlawanan dengan yang dijelaskan dalam prompt. 

Ketika seorang seniman, yang menggunakan nama Supercomposite di Twitter, menemukan permintaan negatif untuk apa yang menggambarkan gambar logo palsu yang tampak polos, mereka menemukan sesuatu yang benar-benar mengerikan: Wajah yang tampak seperti wanita berhantu. Supercomposite menamai wanita yang dihasilkan AI ini "Loab" dan ketika mereka menyilangkan gambar dirinya dengan yang lain, mereka selalu terlihat seperti adegan dari film horor.

🧵: I discovered this woman, who I call Loab, in April. The AI reproduced her more easily than most celebrities. Her presence is persistent, and she haunts every image she touches. CW: Take a seat. This is a true horror story, and veers sharply macabre. pic.twitter.com/gmUlf6mZtk

— Supercomposite (@supercomposite) September 6, 2022

Superkomposit diceritakan Reg gambar acak dari orang yang dihasilkan AI sering kali dapat muncul dalam permintaan negatif. Perilaku aneh belum contoh lain dari beberapa sifat aneh yang dimiliki model ini yang baru mulai diselidiki orang. 

Tidak ada chatbots hidup di sini di Google kata CEO Sundar Pichai

Sundar Pichai bertentangan dengan klaim yang dibuat oleh mantan insinyur, Blake Lemoine, bahwa Google telah membangun chatbot hidup selama ceramahnya di konferensi Kode minggu ini.

Lemoine menjadi berita utama pada bulan Juli ketika dia mengumumkan dia pikir chatbot Google LaMDA sadar dan mungkin memiliki jiwa. Dia kemudian dipecat karena dilaporkan melanggar kebijakan privasi perusahaan setelah dia menyewa seorang pengacara untuk mengobrol dengan LaMDA dan menilai hak hukumnya, mengklaim bahwa mesin tersebut telah menyuruhnya melakukannya.

Kebanyakan orang – termasuk CEO Google – tidak setuju dengan Lemoine. “Saya masih berpikir perjalanan masih panjang. Saya merasa seperti saya sering masuk ke pembicaraan filosofis atau metafisik tentang apa itu perasaan dan apa itu kesadaran, ”kata Pichai, menurut untuk Fortune. “Kami jauh dari itu, dan kami mungkin tidak akan pernah sampai di sana,” tambahnya.

Untuk lebih menekankan poinnya, dia mengakui bahwa asisten suara AI Google terkadang gagal memahami dan merespons permintaan dengan tepat. “Kabar baiknya adalah siapa pun yang berbicara dengan Asisten Google — sementara saya pikir itu adalah asisten terbaik di luar sana untuk AI percakapan — Anda masih melihat betapa rusaknya itu dalam kasus-kasus tertentu,” katanya. ®