Jika Joe Biden menginginkan chatbot AI yang cerdas dan sederhana untuk menjawab pertanyaannya, tim kampanyenya tidak akan dapat menggunakan Claude, pesaing ChatGPT dari Anthropic, perusahaan tersebut mengumumkan hari ini.
โKami tidak mengizinkan kandidat menggunakan Claude untuk membuat chatbot yang dapat berpura-pura menjadi mereka, dan kami tidak mengizinkan siapa pun menggunakan Claude untuk kampanye politik yang ditargetkan,โ kata perusahaan tersebut. mengumumkan. Pelanggaran terhadap kebijakan ini akan ditanggapi dengan peringatan dan, pada akhirnya, penangguhan akses ke layanan Anthropic.
Artikulasi publik Anthropic mengenai kebijakan โpenyalahgunaan pemiluโ muncul ketika potensi AI untuk menghasilkan informasi, gambar, dan video yang salah dan menyesatkan secara massal semakin berkurang. memicu peringatan di seluruh dunia.
Meta menerapkan aturan rmembatasi penggunaan alat AI dalam politik musim gugur lalu, dan OpenAI memiliki kebijakan serupa.
Anthropic mengatakan perlindungan politiknya terbagi dalam tiga kategori utama: mengembangkan dan menegakkan kebijakan terkait isu pemilu, mengevaluasi dan menguji model terhadap potensi penyalahgunaan, dan mengarahkan pengguna ke informasi pemilu yang akurat.
Antropik kebijakan penggunaan yang dapat diterimaโyang tampaknya disetujui oleh semua pengguna sebelum mengakses Claudeโmelarang penggunaan alat AI untuk kampanye politik dan upaya lobi. Perusahaan mengatakan akan ada peringatan dan penangguhan layanan bagi pelanggar, dengan proses peninjauan manusia.
Perusahaan juga melakukan โtim merahโ yang ketat terhadap sistemnya: upaya agresif dan terkoordinasi oleh mitra terkenal untuk โmelakukan jailbreakโ atau menggunakan Claude untuk tujuan jahat.
โKami menguji bagaimana sistem kami merespons permintaan yang melanggar kebijakan penggunaan yang dapat diterima, [misalnya] permintaan yang meminta informasi tentang taktik penindasan pemilih,โ jelas Anthropic. Selain itu, perusahaan tersebut mengatakan bahwa mereka telah mengembangkan serangkaian tes untuk memastikan โkesetaraan politikโโketerwakilan komparatif antar kandidat dan topik.
Di Amerika Serikat, Antropik bermitra dengan TurboVote untuk membantu pemilih dengan informasi yang dapat diandalkan daripada menggunakan alat AI generatifnya.
โJika pengguna yang tinggal di AS meminta informasi pemungutan suara, sebuah pop-up akan menawarkan pengguna opsi untuk dialihkan ke TurboVote, sumber daya dari organisasi non-partisan Democracy Works,โ jelas Anthropic, sebuah solusi yang akan diterapkan โdi seluruh dunia.โ beberapa minggu ke depanโโdengan rencana untuk menerapkan tindakan serupa di negara-negara lain pada waktu berikutnya.
As Dekripsi dilaporkan sebelumnya, OpenAI, perusahaan di balik ChatGPT mengambil langkah serupa, mengarahkan pengguna ke situs web non-partisan CanIVote.org.
Upaya Anthropic sejalan dengan gerakan yang lebih luas dalam industri teknologi untuk mengatasi tantangan yang ditimbulkan AI terhadap proses demokrasi. Misalnya, Komisi Komunikasi Federal AS baru-baru ini melarang penggunaan teknologi yang dihasilkan oleh AI suara deepfake di robocall, sebuah keputusan yang menggarisbawahi pentingnya mengatur penerapan AI di bidang politik.
Seperti Facebook, Microsoft juga punya inisiatif yang diumumkan untuk memerangi iklan politik menyesatkan yang dihasilkan oleh AI, memperkenalkan โKredensial Konten sebagai Layananโ dan meluncurkan Pusat Komunikasi Pemilu.
Sedangkan bagi kandidat yang membuat versi AI sendiri, OpenAI harus menangani kasus penggunaan spesifik. Perusahaan tergantung akun pengembang setelah mengetahui bahwa mereka membuat bot yang meniru calon presiden, Rep. Dean Phillips. Langkah ini terjadi setelah sebuah petisi yang membahas penyalahgunaan AI dalam kampanye politik diajukan oleh organisasi nirlaba Public Citizen, yang meminta regulator untuk melarang AI generatif dalam kampanye politik.
Anthropic menolak berkomentar lebih lanjut, dan OpenAI tidak menanggapi pertanyaan dari Dekripsi.
Tetap di atas berita crypto, dapatkan pembaruan harian di kotak masuk Anda.