Anthropic, ilkelerinin kullanıcılar tarafından seçilmesine izin vererek demokratik bir yapay zeka sohbet robotu yarattı.

Bir yapay zeka (AI) şirketi olan Anthropic, yapay zeka yeteneklerinin çığır açan bir incelemesinde, kullanıcı tanımlı değerleri yansıtacak şekilde büyük bir dil modeli (LLM) uyarladı. Bu eşsiz çalışma, LLM'nin kolektif yargılarına dayalı yanıtlarında ince ayar yapmak için 1,000 katılımcıdan girdi toplamayı içeriyordu.

Belirli çıktıları sınırlamak için önceden tanımlanmış korkuluklarla donatılmış geleneksel LLM'lerin aksine, Anthropic'in yaklaşımı kullanıcı eylemliliğini benimser. Anthropic'ten Claude ve OpenAI'den ChatGPT gibi modeller, özellikle hassas konularla ilgili olarak genellikle önceden belirlenmiş güvenlik yanıtlarına uyar. Ancak eleştirmenler, kabul edilebilirliğin tanımının kültürlere ve zaman dilimlerine göre değişmesi ve öznel olması nedeniyle bu tür müdahalelerin kullanıcı özerkliğini tehlikeye atabileceğini savunuyor.

Bu karmaşık zorluğa olası bir çözüm, kullanıcıların yapay zeka modellerinin değer uyumunu şekillendirmesine olanak sağlamaktır. Anthropic, Polis ve Kolektif Zeka Projesi ile işbirliği içinde “Kolektif Anayasal Yapay Zeka” deneyine başladı. Farklı geçmişlere sahip 1,000 kullanıcının katılımıyla, değerli bilgiler toplamak amacıyla anket yoluyla bir dizi soru sordular.

Deney, kullanıcılara istenmeyen çıktılara maruz kalmadan uygunluğu belirleme yetkisinin verilmesi etrafında dönüyor. Bu süreç, kullanıcı değerlerinin ortaya çıkarılmasını ve bunların önceden eğitilmiş bir modele dahil edilmesini içeriyordu. Antropik, "Anayasal Yapay Zeka" olarak bilinen bir teknik kullanıyor; burada model, uluslardaki yönetime rehberlik eden bir anayasaya benzer şekilde takip edilmesi gereken bir dizi kuralla donatılıyor.

Kolektif Anayasal Yapay Zeka deneyinde Anthropic, kullanıcı gruplarından gelen geri bildirimleri modelin yapısına entegre etmeyi amaçladı. Anthropic'in blog gönderisine göre sonuçlar, bilimsel bir başarıya işaret ediyor ve kullanıcıların bir Yüksek Lisans ürününün değerlerini toplu olarak tanımlamasına izin vermenin getirdiği zorluklara ışık tutuyor.

Ekibin karşılaştığı önemli bir engel, yeni bir kıyaslama süreci geliştirmekti. Deneyin öncü doğası ve Anthropic'in Anayasal Yapay Zeka metodolojisine dayanması göz önüne alındığında, temel modelleri kitle kaynaklı değerler kullanılarak ince ayar yapılanlarla karşılaştırmak için yerleşik bir test yoktur.

Sonuçta, kullanıcı oylama geri bildirimlerinden elde edilen verileri içeren modelin, önyargılı çıktıları azaltma konusunda temel modele göre "hafif" bir gelişme gösterdiği görülüyor. Antropik, yalnızca ortaya çıkan modelle ilgili değil, daha da önemlisi çığır açan sürecin kendisiyle ilgili heyecanı da ifade ediyor. Bu deney, kolektif olarak halkın büyük bir dil modelinin davranışını kasıtlı olarak etkilediği ilk örneklerden birini temsil ediyor. Umudumuz, dünya çapındaki toplulukların, kendi özel kültürel ve bağlamsal ihtiyaçlarına uygun modeller geliştirmek için bu tür teknikler üzerine inşa etmeleridir.