Şirket bugün yaptığı duyuruda, Joe Biden'ın soruları yanıtlayacak akıllı ve samimi bir yapay zeka sohbet robotu istemesi halinde, kampanya ekibinin Anthropic'in ChatGPT rakibi Claude'u kullanamayacağını duyurdu.
Şirket, "Adayların Claude'u kendileriymiş gibi davranabilecek sohbet robotları oluşturmak için kullanmasına izin vermiyoruz ve kimsenin Claude'u hedefli siyasi kampanyalar için kullanmasına izin vermiyoruz" dedi. açıkladı. Bu politikanın ihlalleri uyarılarla karşılanacak ve en sonunda Anthropic hizmetlerine erişimin askıya alınmasıyla sonuçlanacaktır.
Anthropic'in "seçimin kötüye kullanılması" politikasını kamuoyuna açık bir şekilde ifade etmesi, yapay zekanın yanlış ve yanıltıcı bilgi, resim ve videoları toplu olarak üretme potansiyelinin ortaya çıkmasıyla ortaya çıkıyor dünya çapında alarm zilleri çalıyor.
Meta uygulanan kurallar rAI araçlarının siyasette kullanımını kısıtlamak Geçen sonbaharda OpenAI'nin de benzer politikaları var.
Anthropic, siyasi korumalarının üç ana kategoriye ayrıldığını söyledi: seçim konularıyla ilgili politikaların geliştirilmesi ve uygulanması, potansiyel suiistimallere karşı modellerin değerlendirilmesi ve test edilmesi ve kullanıcıları doğru oylama bilgilerine yönlendirmek.
antropik kabul edilebilir kullanım politikasıGörünüşte tüm kullanıcıların Claude'a erişmeden önce kabul ettiği şey, yapay zeka araçlarının siyasi kampanya ve lobi faaliyetleri için kullanılmasını yasaklıyor. Şirket, ihlalde bulunanlar için uyarılar verileceğini ve hizmetin askıya alınacağını ve insan inceleme sürecinin uygulanacağını söyledi.
Şirket aynı zamanda sistemlerinde sıkı bir "kırmızı ekip" çalışması yürütüyor: bilinen ortakların "jailbreak" yapmaya veya Claude'u kötü amaçlarla kullanmaya yönelik agresif, koordineli girişimleri.
Anthropic, "Sistemimizin, kabul edilebilir kullanım politikamızı ihlal eden istemlere (örneğin, seçmenleri bastırmaya yönelik taktikler hakkında bilgi isteyen istemlere) nasıl yanıt verdiğini test ediyoruz" diye açıklıyor. Ayrıca şirket, adaylar ve konular arasında karşılaştırmalı temsil anlamına gelen "siyasi eşitliği" sağlamak için bir dizi test geliştirdiğini söyledi.
Amerika Birleşik Devletleri'nde Antropik TurboVote ile ortaklık kurdu Üretken yapay zeka aracını kullanmak yerine seçmenlere güvenilir bilgiler konusunda yardımcı olmak.
Anthropic, "ABD merkezli bir kullanıcı oylama bilgisi isterse, bir açılır pencere kullanıcıya partizan olmayan Democracy Works örgütünün bir kaynağı olan TurboVote'a yönlendirilme seçeneğini sunacak" dedi. önümüzdeki birkaç hafta” - önümüzdeki dönemde diğer ülkelerde de benzer önlemlerin eklenmesi planlanıyor.
As azalmak Daha önce bildirilenChatGPT'nin arkasındaki şirket OpenAI de benzer adımlar atarak kullanıcıları partizan olmayan CanIVote.org web sitesine yönlendiriyor.
Anthropic'in çabaları, yapay zekanın demokratik süreçlere getirdiği zorlukları ele almak için teknoloji endüstrisindeki daha geniş bir hareketle uyumlu. Örneğin, ABD Federal İletişim Komisyonu yakın zamanda yapay zeka tarafından üretilen bilgilerin kullanımını yasakladı. Otomatik aramalarda derin sahte seslerYapay zekanın siyasi alanda uygulanmasının düzenlenmesinin aciliyetinin altını çizen bir karar.
Facebook gibi Microsoft'un da açıklanan girişimler Yapay zeka tarafından oluşturulan yanıltıcı siyasi reklamlarla mücadele etmek, "Hizmet Olarak İçerik Kimlik Bilgilerini" sunmak ve bir Seçim İletişim Merkezi başlatmak.
Kendilerinin yapay zeka versiyonlarını yaratan adaylara gelince, OpenAI'nin özel kullanım senaryosunu zaten ele alması gerekiyordu. Şirket asma Bir geliştiricinin, başkan adayı Temsilci Dean Phillips'i taklit eden bir bot yarattıklarını öğrendikten sonra yaptığı açıklama. Hareket, yapay zekanın siyasi kampanyalarda kötüye kullanımını ele alan bir dilekçenin, kar amacı gütmeyen bir kuruluş olan Public Citizen tarafından tanıtılmasının ardından gerçekleşti ve düzenleyiciden üretken yapay zekanın siyasi kampanyalarda yasaklanmasını talep etti.
Antropik daha fazla yorum yapmayı reddetti ve OpenAI, azalmak.
Kripto haberlerinden haberdar olun, gelen kutunuzda günlük güncellemeler alın.
- SEO Destekli İçerik ve Halkla İlişkiler Dağıtımı. Bugün Gücünüzü Artırın.
- PlatoData.Network Dikey Üretken Yapay Zeka. Kendine güç ver. Buradan Erişin.
- PlatoAiStream. Web3 Zekası. Bilgi Genişletildi. Buradan Erişin.
- PlatoESG. karbon, temiz teknoloji, Enerji, Çevre, Güneş, Atık Yönetimi. Buradan Erişin.
- PlatoSağlık. Biyoteknoloji ve Klinik Araştırmalar Zekası. Buradan Erişin.
- Kaynak: https://decrypt.co/217937/anthropic-claude-ai-chatbot-politics-elections-campaign-deepfake-rules