Anthropic menciptakan chatbot AI yang demokratis dengan mengizinkan prinsip-prinsipnya dipilih oleh pengguna.

Dalam eksplorasi terobosan kemampuan AI, Anthropic, sebuah perusahaan kecerdasan buatan (AI), telah merancang model bahasa besar (LLM) untuk mencerminkan nilai-nilai yang ditentukan pengguna. Studi unik ini melibatkan pengumpulan masukan dari 1,000 peserta untuk menyempurnakan tanggapan LLM berdasarkan penilaian kolektif mereka.

Tidak seperti LLM konvensional yang dilengkapi dengan pagar pembatas yang telah ditentukan sebelumnya untuk membatasi keluaran tertentu, pendekatan Anthropic mencakup agen pengguna. Model seperti Claude dari Anthropic dan ChatGPT dari OpenAI sering kali mematuhi respons keselamatan yang telah ditetapkan sebelumnya, terutama terkait topik sensitif. Namun, para kritikus berpendapat bahwa intervensi semacam itu mungkin membahayakan otonomi pengguna, karena definisi penerimaan bervariasi dan subjektif antar budaya dan periode waktu.

Solusi potensial terhadap tantangan kompleks ini adalah memberdayakan pengguna untuk membentuk penyelarasan nilai model AI. Anthropic memulai eksperimen “Collective Constitutional AI” bekerja sama dengan Polis dan Collective Intelligence Project. Melibatkan 1,000 pengguna dari berbagai latar belakang, mereka mengajukan serangkaian pertanyaan melalui jajak pendapat untuk mengumpulkan wawasan berharga.

Eksperimen ini berkisar pada pemberian wewenang kepada pengguna untuk menentukan kesesuaian tanpa memaparkan mereka pada keluaran yang tidak diinginkan. Proses ini melibatkan perolehan nilai-nilai pengguna dan menggabungkannya ke dalam model yang telah dilatih sebelumnya. Anthropic menggunakan teknik yang dikenal sebagai “Constitutional AI,” di mana model tersebut dilengkapi dengan serangkaian aturan yang harus diikuti, mirip dengan konstitusi yang memandu pemerintahan di suatu negara.

Dalam eksperimen AI Konstitusi Kolektif, Anthropic bertujuan untuk mengintegrasikan umpan balik dari kelompok pengguna ke dalam konstitusi model. Menurut postingan blog Anthropic, hasilnya menunjukkan keberhasilan ilmiah, menyoroti tantangan yang terkait dengan membiarkan pengguna secara kolektif menentukan nilai-nilai produk LLM.

Tantangan penting yang dihadapi tim adalah mengembangkan proses benchmarking yang baru. Mengingat sifat perintis eksperimen ini dan ketergantungan pada metodologi AI Konstitusional Anthropic, tidak ada pengujian yang pasti untuk membandingkan model dasar dengan model yang disempurnakan menggunakan nilai-nilai yang bersumber dari banyak orang.

Pada akhirnya, tampaknya model yang menggabungkan data yang diperoleh dari masukan dari jajak pendapat pengguna menunjukkan “sedikit” peningkatan dibandingkan model dasar dalam mengurangi keluaran yang bias. Anthropic mengungkapkan kegembiraan bukan hanya pada model yang dihasilkan, namun yang lebih penting, pada proses terobosan itu sendiri. Eksperimen ini menandakan salah satu contoh awal di mana publik, secara kolektif, dengan sengaja memengaruhi perilaku model bahasa besar. Harapannya adalah masyarakat secara global akan memanfaatkan teknik-teknik tersebut untuk mengembangkan model yang selaras dengan kebutuhan budaya dan kontekstual mereka yang spesifik.