Praktik Terbaik untuk Menerapkan Model Bahasa

Rekomendasi Bersama untuk Penerapan Model Bahasa

Kami merekomendasikan beberapa prinsip utama untuk membantu penyedia model bahasa besar (LLM) mengurangi risiko teknologi ini untuk mencapai janji penuhnya untuk meningkatkan kemampuan manusia.

Meskipun prinsip-prinsip ini dikembangkan secara khusus berdasarkan pengalaman kami dalam menyediakan LLM melalui API, kami berharap mereka akan berguna terlepas dari strategi rilis (seperti sumber terbuka atau penggunaan dalam perusahaan). Kami berharap rekomendasi ini berubah secara signifikan dari waktu ke waktu karena penggunaan komersial LLM dan pertimbangan keselamatan yang menyertainya masih baru dan berkembang. Kami secara aktif mempelajari dan mengatasi keterbatasan LLM dan jalan untuk penyalahgunaan, dan akan memperbarui prinsip dan praktik ini bekerja sama dengan komunitas yang lebih luas dari waktu ke waktu.

Kami membagikan prinsip-prinsip ini dengan harapan bahwa penyedia LLM lain dapat belajar dari dan mengadopsinya, dan untuk memajukan diskusi publik tentang pengembangan dan penerapan LLM.

Melarang penyalahgunaan

Publikasikan pedoman penggunaan dan ketentuan penggunaan LLM dengan cara yang melarang bahaya materi bagi individu, komunitas, dan masyarakat seperti melalui spam, penipuan, atau astroturfing. Pedoman penggunaan juga harus menentukan domain di mana penggunaan LLM memerlukan pengawasan ekstra dan melarang kasus penggunaan berisiko tinggi yang tidak sesuai, seperti mengklasifikasikan orang berdasarkan karakteristik yang dilindungi.

Bangun sistem dan infrastruktur untuk menegakkan pedoman penggunaan. Ini mungkin termasuk batas tingkat, pemfilteran konten, persetujuan aplikasi sebelum akses produksi, pemantauan aktivitas anomali, dan mitigasi lainnya.

Mengurangi kerusakan yang tidak disengaja

Secara proaktif mengurangi perilaku model yang berbahaya. Praktik terbaik mencakup evaluasi model komprehensif untuk menilai batasan dengan tepat, meminimalkan sumber bias potensial dalam pelatihan korpora, dan teknik untuk meminimalkan perilaku tidak aman seperti melalui pembelajaran dari umpan balik manusia.

Dokumentasikan kelemahan dan kerentanan yang diketahui, seperti bias atau kemampuan untuk menghasilkan kode yang tidak aman, seperti dalam beberapa kasus tidak ada tingkat tindakan pencegahan yang dapat sepenuhnya menghilangkan potensi bahaya yang tidak diinginkan. Dokumentasi juga harus mencakup model dan praktik terbaik keselamatan khusus kasus penggunaan.

Berkolaborasi secara serius dengan pemangku kepentingan

Bangun tim dengan beragam latar belakang dan meminta masukan yang luas. Perspektif yang beragam diperlukan untuk mengkarakterisasi dan membahas bagaimana model bahasa akan beroperasi dalam keragaman dunia nyata, di mana jika tidak dicentang mereka dapat memperkuat bias atau gagal bekerja untuk beberapa kelompok.

Mengungkapkan pelajaran yang dipetik secara publik mengenai keamanan dan penyalahgunaan LLM untuk memungkinkan adopsi yang luas dan membantu dengan iterasi lintas industri pada praktik terbaik.

Perlakukan semua tenaga kerja dalam rantai pasokan model bahasa dengan hormat. Misalnya, penyedia harus memiliki standar tinggi untuk kondisi kerja dari mereka yang meninjau keluaran model in-house dan menahan vendor dengan standar yang ditentukan dengan baik (misalnya, memastikan pemberi label dapat memilih keluar dari tugas yang diberikan).

Sebagai penyedia LLM, menerbitkan prinsip-prinsip ini merupakan langkah pertama dalam memandu pengembangan dan penerapan model bahasa besar yang lebih aman secara kolaboratif. Kami bersemangat untuk terus bekerja sama satu sama lain dan dengan pihak lain untuk mengidentifikasi peluang lain guna mengurangi bahaya yang tidak disengaja dan mencegah penggunaan model bahasa yang berbahaya.

Download sebagai PDF