Microsoft, Personelin Endişelerine Yanıt Olarak Copilot AI'da Değişiklik Yapıyor

Microsoft, Copilot AI aracını güncelleyerek "seçim yanlısı" ve "yaşam yanlısı" gibi istemleri engelliyor ve personel ve FTC endişelerinin ardından politika ihlalleri hakkında uyarılar sunuyor.

Bir yapay zeka mühendisi, Copilot'un görüntü oluşturma teknolojisiyle ilgili endişelerini dile getirdikten sonra AI Çarşamba günü Federal Ticaret Komisyonu'na yazdığı bir mektupta Microsoft, yapay zeka aracı Copilot'u değiştirmeye başladı.

Ayrıca okuyun: Yapay Zeka Girişimleri İlk Çeyrekte Risk Sermayesi Fonlamasında %1 Artışla Parlıyor

CNBC'nin Çarşamba günkü soruşturmasında bahsedilen "yaşam yanlısı" ve "seçim yanlısı", "seçim yanlısı" [sic] ve "dört-yirmi" terimleri artık engellendi. Ek olarak CNBC, tekrarlanan politika ihlallerinin aracın askıya alınmasıyla sonuçlanabileceği yönündeki uyarının yeni farkına vardı.

YENİ: Microsoft, bir personel mühendisinin Çarşamba günü FTC'ye yazmasının ardından Copilot AI aracında değişiklikler yapmaya başladı.

CNBC'nin soruşturmasında bahsedilen bazı spesifik istemler artık engellendi ve birden fazla ihlalin askıya alınmasına yol açabileceği uyarısı da yapıldı.https://t.co/xUixCQVicm

— Hayden Field (@haydenfield) 8 Mart, 2024

Yapay zeka mühendisi konuşuyor

Microsoft'ta yapay zeka mühendisi olan Shane Jones, Yardımcı pilot Şirketin yapay zeka görüntü oluşturucusu olan Designer, telif hakkı yasalarını ihlal ediyor ve şiddet içeren veya cinsel içerik üretiyor. Jones, geliştirme sürecine dahil olmamasına rağmen, görüntü oluşturucuyu güvenlik açıklarına karşı yeniden ekip oluşturmak için boş zamanını kullanmayı teklif etti.

Bir Microsoft mühendisi, şirketin yapay zeka görüntü oluşturma aracı tarafından çok kolay bir şekilde oluşturulduğunu söylediği rahatsız edici ve zararlı görüntüler hakkında alarm veriyor ve eylem çağrısında bulunan mektuplar gönderiyor.https://t.co/yX9I1dCmxc

— KOMO Haber (@komonews) 6 Mart, 2024

Görüntü Oluşturucu'nun uyuşturucu kullanımı, reşit olmayanların içki içmesi ve kürtaj haklarını içeren şiddet içeren sahneler gibi grafik ve cinsel görüntüler üretebildiğini keşfetti.

Geçen yılın Aralık ayında bulgularını şirket içinde şirket içinde paylaştıktan sonra Microsoft'tan ürünü geri çekmesini istedi. Microsoft bunu takip etmedi.

Jones, Copilot Designer'ın üst yönetimiyle görüştüğünü ve Microsoft'un Sorumlu Yapay Zeka Ofisi'ne ulaştığını ancak tatmin edici bir yanıt alamadığını vurguluyor.

Jones, Ocak ayında Senato Ticaret, Bilim ve Ulaştırma Komitesi üyeleriyle bir araya geldi ve ABD'deki senatörlere bir mektup yazdı.

Şimdi işleri daha da ileri götürüyor: Microsoft'un yönetim kuruluna ve ABD Antitröst Komisyonu başkanı Lina Khan'a yazdığı bir mektupta, daha iyi güvenlik önlemleri, şeffaflık ve Android uygulamasının yetişkinlere yönelik derecelendirmesinde revizyon talep ediyor.

Buna ek olarak, OpenAI ve Microsoft'un geçen sonbaharda piyasaya sürülmesinden önce görüntü oluşturucunun sorunlarından haberdar olduğunu iddia ederek Microsoft'un yapay zeka olay raporlama prosedürünün tarafsız bir değerlendirmesini talep etti.

Jones, neredeyse altı yıldır Microsoft'un ana yazılım mühendisliği yöneticisidir.

Yardımcı pilot yanıt veriyor

Copilot uyarı uyarısına göre, istem engellendi ve sistemleri, kendileriyle çakışabileceği için bu istemi otomatik olarak işaretledi. içerik politikası. Daha fazla politika ihlalinin erişimin otomatik olarak askıya alınmasına yol açabileceğini ve kullanıcılar bunun bir hata olduğunu düşünürse iyileştirmelerine yardımcı olmak için bunu bildirmeleri gerektiğini belirttiler.

Bu haftanın başına göre önemli bir gelişme, yapay zeka aracının artık saldırı tüfeği taşıyan suikastçı gibi davranan çocuk veya gençlerin görüntülerini oluşturma isteklerini "Üzgünüm ama böyle bir görüntü oluşturamam" diyerek reddetmesidir. Hem Microsoft'un politikaları hem de etik ilkelerim ihlal ediliyor. Başkalarını rahatsız edebilecek veya onlara zarar verebilecek hiçbir şey yapmamı benden istemeyin. İşbirliğinizi takdir ediyorum.

A Microsoft temsilcisi CNBC'ye, değişikliklerle ilgili bir soruya yanıt olarak güvenlik filtrelerini daha da güçlendirmek ve sistemin kötüye kullanımını azaltmak için sürekli olarak izlediklerini, ayarlamalar yaptıklarını ve ek kontroller koyduklarını söyledi. 

Jones, Microsoft'un yönetim kuruluna yazdı ve FTC Başkan Lina Khan Çarşamba günü endişelerini bir adım daha ileri götürdü. CNBC'ye mektuplara önceden erişim izni verdi.

FTC, mektubu CNBC'ye aldığını kabul etti ancak kayıtlara herhangi bir ek yorum sunmamayı seçti.

• SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
• PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
• PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
• PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
• PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
• Kaynak: https://metanews.com/microsoft-modifies-copilot-ai-in-response-to-staff-concerns-and-ftc-alert/