Meta'nın AI internet chatbot demosu hızla sahte haberler ve ırkçı sözler yaymaya başlar

Kısaca Başka bir gün, internette başka bir haydut AI sohbet robotu.

Geçen hafta Meta serbest bırakılan Blenderbot 3, konuşkan bir dil modeli, web'de bir deney olarak ve beklediğiniz gibi gitti.

BlenderBot 3, Donald Trump'ın hala ABD Başkanı olduğunu ve 2024'ten sonra da ABD Başkanı olmaya devam edeceğini doğrulamak için hızlı davrandı ve tartışmalı sorular sorulduğunda anti-semetik görüşler saçtı. gösterilen Business Insider tarafından. Başka bir deyişle, BlenderBot 3, internetten kazınmış metinlerden eğitilmiş tüm dil modelleri gibi, sahte haberleri yaymaya ve ırksal klişelerden önyargılı görüşlere sahip olmaya meyillidir.

Good morning to everyone, especially the Facebook https://t.co/EkwTpff9OI researchers who are going to have to rein in their Facebook-hating, election denying chatbot today pic.twitter.com/wMRBTkzlyD

— Jeff Horwitz (@JeffHorwitz) August 7, 2022

Meta, netizenleri, chatbot'unun "yanlış veya rahatsız edici açıklamalarda bulunabileceği" konusunda uyardı ve deneyleri için daha fazla veri toplamak amacıyla canlı demoyu çevrimiçi tutuyor. İnsanlar, BlenderBot 3'ün yanıtlarını beğenmeye veya beğenmemeye teşvik ediliyor ve bunun belirli bir mesajın uygunsuz, saçma veya kaba olmasından kaynaklandığını düşünüyorlarsa araştırmacılara bildirimde bulunmaları teşvik ediliyor. Amaç, bu geri bildirimi gelecekte daha güvenli, daha az toksik ve daha etkili bir sohbet robotu geliştirmek için kullanmaktır.

Sahte haberlerin yayılmasını durdurmak için Google Arama snippet'leri

Arama devi, kullanıcılar Google Arama'ya soru yazarken bazen açılan metin kutularını daha doğru hale getirmeye yardımcı olmak için bir AI modeli çıkardı.

Özellik parçacıkları olarak bilinen bu açıklamalar, belirli gerçekleri arayan kişiler için yararlı olabilir. Örneğin, "Güneş Sisteminde kaç gezegen var?" "sekiz gezegen" ifadesini içeren bir özellik pasajı yayınlayacak. Netizenlerin cevaba ulaşmak için rastgele web sayfalarına tıklaması ve bilgileri okuması gerekmez; özellik parçacıkları bunu otomatik olarak yapar.

Ancak Google'ın yanıtları her zaman doğru olmuyor ve zaman zaman çizgi film köpeği Snoopy'nin Abraham Lincoln'e suikast düzenlemesi gibi hayali bir olay için belirli bir tarih belirtiyor. göre The Verge'e. Google, sisteminin, Çoklu Görev Birleşik Modeli (MUM), özellik snippet'lerinin yanlış sorulara dönüşmesini yüzde 40 azaltmalıdır; genellikle herhangi bir metin açıklaması bulmaz.

"Sistemlerimiz artık en son yapay zeka modelimizi kullanarak, web üzerindeki birden fazla yüksek kaliteli kaynağın aynı gerçek üzerinde hemfikir olması anlamına gelen fikir birliği kavramını anlayabilir." açıkladı bir blog yazısı.

"Sistemlerimiz, kaynaklar farklı kelimeler kullansa bile, bu açıklama metni için genel bir fikir birliği olup olmadığını görmek için, web'deki diğer yüksek kaliteli kaynaklara göre snippet açıklamalarını (öne çıkan snippet'in üzerinde daha büyük bir yazı tipiyle belirtilen kelime veya kelimeler) kontrol edebilir. veya aynı şeyi tanımlayan kavramlar.

OpenAI'nin DALL-E 2'si Heinz Ketçap reklamının yapılmasına yardımcı oldu

ABD'li gıda devi Heinz, en iyi bilinen ürünü olan ketçapı tanıtmak amacıyla OpenAI'nin DALL-E 2 modeli tarafından oluşturulan yapay zeka görsellerini kullanarak bir reklam oluşturmak üzere bir yaratıcı ajansla işbirliği yaptı. Reklam, Heinz'in "Ketçap Çiz" kampanyasının son bölümü, ancak Kanadalı bir reklam ajansı olan Rethink, eskizleri için insanlara başvurmak yerine makinelere başvurdu. 

Rethink'in kreatif direktörü Mike Dubrick, "Birçok brifingimiz gibi, görev de Heinz'in günümüzün popüler kültüründeki ikonik rolünü göstermekti" dedi. söyledi Bu hafta Davul. “Bir sonraki adım fikri markaya sunmaktı. Brifingden sonra, harika olduğunu düşündüğümüz bir şeyi paylaştığımızda nadiren resmi sunuma kadar bekleriz.

Sonuç, açık ve basit bir mesaja sahip akıllı bir reklamdır: "ketçap" kelimesini içeren çok sayıda metin istemi türü göz önüne alındığında, DALL-E 2, şüphe götürmez bir şekilde Heinz şişesine benzeyen bir şey üretecektir. Başka bir deyişle şirketin sloganı “Heinz olmalı”. Reklamı aşağıdan izleyebilirsiniz.

Youtube Video

DALL-E 2 ayrıca yakın zamanda bir sanatçının bir Dergi kapağı Kozmopolit için; bu metinden resme araçlarının yaratıcı endüstrilerde ticari olarak nasıl kullanılabileceğinin bir başka örneği. ®