Gizlilik bekçisi, şirketleri duygusal analiz AI yazılımını bırakmaya çağırıyor

İngiltere'nin Bilgi Komisyonu Ofisi (ICO) bu hafta, şirketlerin yapay zeka destekli duygusal analiz sistemlerini sistemik önyargılara ve diğer karışıklıklara eğilimli dağıtmadan önce iki kez düşünmesi gerektiği konusunda uyardı.

Gözlemci, insanları riske atan bu düşük teknolojiyi kullanırlarsa ve kullanırlarsa kuruluşların soruşturmayla karşı karşıya kalacağını da ekledi.

Bir kişinin ruh halini ve tepkilerini tahmin etme iddiasında olan makine öğrenimi algoritmaları, bakışları, yüz hareketlerini ve bükülmeyi ve genel duyguyu ölçmek için ses işlemeyi izlemek için bilgisayar vizyonunu kullanır. Tahmin edilebileceği gibi, mutlaka doğru veya adil değildir ve eğitim ve çıkarım için verilerin işlenmesinde gizlilik sorunları olabilir.

Gerçekten de, ICO komisyon üyesi Stephen Bonner, teknolojinin kusursuz olmadığını ve bunun sistemik önyargıya, yanlışlığa veya belirli sosyal gruplara karşı ayrımcılığa yol açtığını söyledi. “Biyometri ve duygu AI pazarındaki gelişmeler olgunlaşmamış. Henüz çalışmayabilirler, hatta hiç çalışmayabilirler” dedi. şuraya yaptığı açıklamada. 

"Fırsatlar mevcut olsa da, riskler şu anda daha büyük. ICO'da, verilerin yanlış analizinin bir kişi hakkında yanlış olan ve ayrımcılığa yol açan varsayımlara ve yargılara yol açabileceğinden endişe duyuyoruz."

Bonner, duygusal analiz yazılımının genellikle biyometrik sistemlerle eşleştirildiğini ve yüz görüntülerinin ötesinde daha geniş bir kişisel bilgi yelpazesi toplayıp sakladığını belirtti. Yazılım sağlayıcılar genellikle bu kişisel verilerin nasıl işlendiği veya kaydedildiği konusunda şeffaf değildir. 

“Tek sürdürülebilir biyometrik dağıtımlar, tamamen işlevsel, hesap verebilir ve bilim tarafından desteklenenler olacaktır” dedi. Mevcut haliyle, veri koruma gereksinimlerini karşılayacak şekilde herhangi bir duygu AI teknolojisinin geliştiğini ve bu alanda orantılılık, adalet ve şeffaflık hakkında daha genel soruları olduğunu henüz görmedik.”

Ki bu kibarca demenin bir yolu gibi görünüyor: Yalnızca ICO'nun beklediği gibi çalışan duygu okuma AI modellerini kullanmalısınız ve bu modeller mevcut değil, bu yüzden yaptığınız şeyi durdurmalısınız.

İngiltere'nin veri gizliliği gözlemcisinin, yüz tanıma, parmak izi tanıma ve ses tanıma dahil olmak üzere biyometrik verilerin önümüzdeki yıl baharda şirketler tarafından nasıl ele alınması gerektiğini ayrıntılarıyla anlatan bir rapor yayınlaması bekleniyor.

Bonner, "ICO, bu teknolojileri oluşturmak veya dağıtmak isteyen paydaşları belirleyerek ve bu sistemlerin nasıl çalıştığına dair güveni ve güveni teşvik ederken gelişmiş veri gizliliği ve uyumluluğunun önemini açıklayarak piyasayı incelemeye devam edecek" dedi.

Uzmanlar, yıllardır duygu ve duygu analizi konusunda alarm veriyor. Duygular özneldir ve onları doğru bir şekilde yorumlamak zordur. İnsanlar, makineler şöyle dursun, genellikle kendileri veya başkaları için bunu etkili bir şekilde yapamazlar. ®