Demo chatbot internet AI Meta dengan cepat mulai memuntahkan berita palsu dan komentar rasis

Secara singkat Suatu hari, chatbot AI nakal lainnya di internet.

Meta minggu lalu melepaskan Blenderbot 3, model bahasa yang cerewet, di web sebagai eksperimen dan berjalan dengan baik seperti yang Anda harapkan.

BlenderBot 3 dengan cepat mengkonfirmasi bahwa Donald Trump masih dan akan terus menjadi Presiden AS setelah tahun 2024, dan memuntahkan pandangan anti-semetik ketika mengajukan pertanyaan kontroversial sebagai ditunjukkan oleh Business Insider. Dengan kata lain, BlenderBot 3 cenderung menyebarkan berita palsu dan memegang opini bias dari stereotip rasial seperti semua model bahasa yang dilatih dari teks yang diambil dari internet.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta memperingatkan netizen bahwa chatbot-nya dapat membuat "pernyataan yang tidak benar atau menyinggung," dan menjaga demo langsung online untuk mengumpulkan lebih banyak data untuk eksperimennya. Orang didorong untuk menyukai atau tidak menyukai balasan BlenderBot 3 dan memberi tahu peneliti jika menurut mereka itu karena pesan tertentu tidak pantas, tidak masuk akal, atau kasar. Tujuannya adalah menggunakan umpan balik ini untuk mengembangkan chatbot yang lebih aman, tidak beracun, dan lebih efektif di masa mendatang.

Cuplikan Google Penelusuran untuk berhenti menyebarkan berita palsu

Raksasa pencarian telah meluncurkan model AI untuk membantu membuat kotak teks yang terkadang muncul saat pengguna mengetik pertanyaan ke Google Penelusuran lebih akurat.

Deskripsi ini, yang dikenal sebagai cuplikan fitur, dapat membantu jika orang mencari fakta tertentu. Misalnya, mengetik "berapa banyak planet yang dimiliki Tata Surya?" akan memunculkan cuplikan fitur yang menyatakan "delapan planet". Netizen tidak perlu mengklik halaman web acak dan membaca informasi untuk mendapatkan jawabannya, cuplikan fitur melakukannya secara otomatis.

Tetapi jawaban Google tidak selalu akurat dan kadang-kadang menyatakan tanggal tertentu untuk peristiwa fiktif seperti pembunuhan Abraham Lincoln oleh anjing kartun Snoopy, menurut ke The Verge. Google mengatakan sistemnya, the Model Terpadu Multitask (MUM), harus mengurangi pembuatan cuplikan fitur menjadi pertanyaan palsu sebesar 40 persen; sering kali tidak muncul deskripsi teks sama sekali.

“Dengan menggunakan model AI terbaru kami, sistem kami sekarang dapat memahami gagasan konsensus, yaitu ketika beberapa sumber berkualitas tinggi di web semuanya menyetujui fakta yang sama,” itu menjelaskan dalam posting blog.

“Sistem kami dapat memeriksa pemanggilan cuplikan (kata atau kata yang disebutkan di atas cuplikan unggulan dalam font yang lebih besar) terhadap sumber berkualitas tinggi lainnya di web, untuk melihat apakah ada konsensus umum untuk pemanggilan itu, bahkan jika sumber menggunakan kata yang berbeda. atau konsep untuk menggambarkan hal yang sama.”

DALL-E 2 OpenAI membantu membuat iklan Heinz Ketchup

Heinz, raksasa makanan AS, bekerja sama dengan agensi kreatif untuk membuat iklan menggunakan gambar AI yang dihasilkan oleh model DALL-E 2 OpenAI untuk mempromosikan produknya yang paling terkenal: saus tomat. Iklan tersebut merupakan angsuran terbaru dalam kampanye Heinz "Draw Ketchup", tetapi alih-alih beralih ke manusia untuk sketsa mereka, Rethink, sebuah biro iklan Kanada, berkonsultasi dengan mesin. 

“Jadi, seperti banyak brief kami, tugasnya adalah menunjukkan peran ikonik Heinz dalam budaya pop saat ini,” direktur kreatif eksekutif Rethink, Mike Dubrick, mengatakan Drum minggu ini. “Melemparkan ide ke merek adalah yang berikutnya. Setelah briefing, kami jarang menunggu sampai presentasi formal ketika kami membagikan sesuatu yang menurut kami bagus.”

Hasil akhirnya adalah iklan cerdas dengan pesan yang jelas dan sederhana: Mengingat banyak jenis teks prompt yang berisi kata "saus", DALL-E 2 akan menghasilkan sesuatu yang terlihat seperti botol Heinz. Dengan kata lain, beri isyarat slogan perusahaan, "itu harus Heinz". Anda dapat menonton iklan di bawah ini.

Youtube Video

DALL-E 2 juga baru-baru ini membantu seorang seniman membuat sampul majalah untuk Kosmopolitan; ini adalah contoh lain bagaimana alat teks-ke-gambar ini dapat digunakan secara komersial di industri kreatif. ®