Bu duyarlı yapay zekayı biraz yalnız bırakın ve önce bu ırkçı sohbet robotlarını düzeltin

Hafta sonu için bir şey Kapımın önünde bir robot yorumlayıcı dans yapıyor.

BU PARSEL KOMŞUNUZ İÇİN ALIR MISINIZ? diye sorar, bir ayağından diğerine atlayarak.

"Tabii" diyorum. "Eee... iyi misin?"

DUYGU İFADE EDİYORUM, teslimat botunu belirtir, paketi teslim eder, ancak daha fazla ayrıntı vermez.

Hangi duygu olabilir? Bir ayağı, sonra diğeri, sonra diğer ikisi (dördü vardır). İleri geri.

"Tuvalete gitmen gerekiyor mu?"

KOMŞUNUZ İÇİN BİR PARSELDE ALMANIZI İSTEDİĞİM İÇİN ÜZGÜNÜMÜ İFADE EDİYORUM.

“Bu 'pişmanlık' değil mi? Pekala, gerek yok. Hiç umurumda değil."

Önümde dansına devam ediyor.

"Merdivenlerden yukarı ve sağdan ilk."

TEŞEKKÜR EDERİM, ÇİŞMEK İÇİN ÖLÜYORUM, diye yanıtlıyor, temkinli adımlarla yanımdan geçerken ve kendini rahatlatmak için üst kata kaçıyor. İster bir "hume" olun, ister bir bot olun, teslimat yapmak zor bir hayat.

...

Bu yılın başlarında, Tsukuba Üniversitesi'ndeki araştırmacılar bir el tipi kısa mesaj cihazı, üstüne küçük bir robot yüzü koyun ve içine hareketli bir ağırlık koyun. Robot haberci, dahili ağırlığı değiştirerek, mesajları yüksek sesle söylerken ince duyguları aktarmaya çalışacaktı.

Özellikle testler, cihazın içindeki küçük ağırlık kaydırma etkinleştirildiğinde, "Üzgünüm, geç kalacağım" gibi sinir bozucu mesajların alıcılar tarafından daha zarafet ve sabırla kabul edildiğini ortaya koydu. Teori, bunun kullanıcıların mesajın özür dileyen tonunu takdir etmesine yardımcı olduğu ve böylece tepkilerini sakinleştirdiğidir.

İsterseniz bu tür araştırmaları bir hile olarak yazın, ancak mesajlara suratlar ve emojiler eklemekten çok da uzak değil. Öfkeyi "WTF!?"den çıkarabileceğinizi herkes biliyor. hemen arkasına :-) ekleyerek.

O halde zorluk, elde taşınan bir cihazdaki ağırlık değişiminin her permütasyonunun hangi duyguları iletmesi gerektiği konusunda halkın genel olarak hemfikir olup olmadığını belirlemektir. Sola yaslanmak neşe anlamına mı gelir? Yoksa belirsizlik mi? Yoksa amcanın bir hava gemisi olduğunu mu?

On yıl önce Birleşik Krallık, "LOL"ün "çok sevgi"nin kısaltması olduğunu düşünen hoş ama sönük bir başbakana sahipti. Personele, iş arkadaşlarına ve üçüncü şahıslara gönderdiği tüm özel mesajlarının sonunda, kendisini sıcak ve arkadaşça karşılayacağını umarak bunu yazıyordu. Herkes doğal olarak onun işediğini varsayıyordu.

Hiçbir şey olmasa da, Tsukuba Üniversitesi araştırması, insanlarla ikna edici bir şekilde etkileşim kurmak için gelişmiş bir yapay zekaya ihtiyacınız olmadığını kabul ediyor. Yapmanız gereken tek şey, başka bir insanla konuştuklarını düşünmelerini sağlamak için insan psikolojisini manipüle etmektir. Bu nedenle Turing Testi temelde bir AI duyarlılığı testi değil, insanın duygusal rahatlığının - hatta saflığın - bir testidir ve bunda yanlış bir şey yoktur.

Bu tür şeyler, elbette, çok kötü niyetli Google yazılım mühendisi Blake Lemoine'nin hikayesiyle haftanın konusu. ana habere ulaşmak. Görünüşe göre, şirketin Diyalog Uygulamaları için Dil Modeli (LaMDA) projesinin dışa dönük duyarlılık belirtileri gösterdiğine dair görüşünü güçlü bir şekilde dile getirdi.

Herkesin bir fikri var, bu yüzden yapmamaya karar verdim.

Bununla birlikte, kendi başına düşünmesini sağlamak AI'nın Kutsal Kase'sidir. Bunu yapamıyorsa, sadece programladığınız talimatları uygulayan bir programdır. Geçen ay hakkında okuyordum robot şef farklı insanların damak zevklerine göre farklı aromalarda domatesli omletler yapabilen. Yemeği hazırlarken tuzluluğunu değerlendirmek için “tat haritaları” oluşturur, ilerledikçe öğrenir. Ama bu sadece öğrenmek, kendi başına düşünmek değil.

Zom-Zoms'a gel, ha? Peki, yemek yenecek bir yer.

AI botlarıyla ilgili en büyük sorun, en azından bugüne kadar biçimlendirildikleri gibi, onlara beslediğiniz eski pislikleri emmeleridir. Sözde makine öğrenimi sistemlerindeki (bir tür “algoritma”, sanırım, m'lud) veri yanlılığı örnekleri, Microsoft'un ünlü ırkçı Twitter'ından yıllardır artıyor Tay sohbet robotu geçen yıl Hollanda vergi dairesine yanlış değerlendirme geçerli çocuk parası taleplerinin hileli olduğu ve masum ailelerin fakir ve beyaz olmayan olma cüretine sahip olma riskinin yüksek olduğu şeklinde işaretlenmesi.

California San Diego Üniversitesi'nde test edilen bir yaklaşım, bir dil modeli tasarla Yaramaz ve güzel şeyler arasındaki farkı sürekli olarak belirleyen ve ardından sohbet robotunu nasıl davranacağını eğiten [PDF]. Bu şekilde, bir palanın tüm cerrahi hassasiyetiyle moderatör forumları ve müşteriye dönük chatbot konuşmaları yapan berbat insanlara sahip değilsiniz.

Açıkça sorun şu ki, iyi eğitilmiş sohbet robotu, en etkili şekilde, onlar hakkında en ufak bir tartışma ipucuna sahip konulardan kaçınarak toksik şakalara çekilmekten kaçınabilir. Yanlışlıkla ırkçı laflar etmekten kaçınmak için, yeterince temsil edilmeyen gruplar hakkında tartışmaya girmeyi reddediyor… ki bu aslında bir ırkçıysanız harika.

LaMDA fiyaskosu hakkında bir gözlemim olsaydı – bir fikir değil, akıl – bu, Google pazarlamacılarının, hikayenin son duyurularından kaçındığı için muhtemelen biraz rahatsız oldukları olurdu. AI Test Mutfağı kıvrımın altında.

Şimdi, yakında çıkacak olan bu uygulama projesini tamamen unutmamış olan birkaç erken kayıt yaptıran, bunun yedi yaşındaki bilinçli ve erken gelişmiş bir çocukla varoluşun anlamı hakkında sıkıcı bir şekilde sohbet etmeyi içerdiğini varsayacak ve “bugün biraz meşgul” olduklarına karar verecek ve bunun yerine yarın oturum açabilir. Ya da gelecek hafta. Ya da asla.

Duyarlılık, bir ayaktan diğerine dans ederek olduğundan daha fazla bir tartışmada gösterilmez. HAL'a "Daisy Daisy" şarkısını söylemeyi ve bir papağana "Bollocks!" diye bağırmayı öğretebilirsiniz. papaz ziyaret ettiğinde. Duyarlılığı tanımlayan yapay zekaların kendi başlarına olduklarında düşündükleri şeydir. Hafta sonu ne yapacağım? Bu Putin denen herifin nesi var? Kızlar beni neden sevmiyor?

Açıkçası, LaMDA'nın genç olmasını bekleyemem.

Youtube Video