Keelemudelite juurutamise parimad tavad

Ühine soovitus keelemudeli kasutuselevõtuks

Soovitame mitmeid põhiprintsiipe, mis aitavad suurte keelemudelite (LLM) pakkujatel selle tehnoloogia riske maandada, et saavutada täielik lubadus inimvõimete suurendamiseks.

Kuigi need põhimõtted töötati välja konkreetselt meie kogemuste põhjal LLM-ide pakkumisel API kaudu, loodame, et need on kasulikud olenemata väljalaskestrateegiast (nt avatud lähteallikatest või ettevõttesisesest kasutusest). Eeldame, et need soovitused muutuvad aja jooksul oluliselt, kuna LLM-ide äriline kasutus ja sellega kaasnevad ohutuskaalutlused on uued ja arenevad. Õpime aktiivselt tundma LLM-i piiranguid ja väärkasutuse võimalusi ning käsitleme neid ning aja jooksul aja jooksul koostöös laiema kogukonnaga ajakohastame neid põhimõtteid ja tavasid.

Jagame neid põhimõtteid lootuses, et teised LLM-i pakkujad võivad neist õppida ja neid omaks võtta ning edendada avalikku arutelu LLM-i arendamise ja kasutuselevõtu üle.

Väärkasutamise keelamine

Avaldage kasutusjuhised ja kasutustingimused LLM-e viisil, mis keelab materiaalse kahju tekitamise üksikisikutele, kogukondadele ja ühiskonnale, näiteks rämpsposti, pettuse või astroturfi kaudu. Kasutusjuhised peaksid samuti täpsustama valdkonnad, kus LLM-i kasutamine nõuab täiendavat kontrolli, ja keelama kõrge riskiga kasutusjuhud, mis ei ole sobivad, näiteks inimeste klassifitseerimine kaitstud omaduste alusel.

Kasutusjuhiste jõustamiseks looge süsteemid ja infrastruktuur. See võib hõlmata kiiruse piiranguid, sisu filtreerimist, rakenduse heakskiitmist enne tootmisjuurdepääsu, anomaalse tegevuse jälgimist ja muid leevendusi.

Leevendage tahtmatut kahju

Leevendage ennetavalt mudeli kahjulikku käitumist. Parimad tavad hõlmavad kõikehõlmavat mudeli hindamist piirangute õigeks hindamiseks, koolituskorpuste võimalike eelarvamuste allikate minimeerimist ja tehnikaid ohtliku käitumise minimeerimiseks, näiteks inimeste tagasisidest õppimise kaudu.

Dokumenteerige teadaolevad nõrkused ja haavatavused, nagu kallutatus või võime luua ebaturvalist koodi, kuna mõnel juhul ei saa ükski ennetav tegevus täielikult kõrvaldada soovimatu kahju tekkimise võimalust. Dokumentatsioon peaks sisaldama ka mudeli- ja kasutusjuhtumipõhiseid parimaid ohutustavasid.

Tehke läbimõeldult koostööd sidusrühmadega

Looge erineva taustaga meeskondi ja küsige laiapõhjalist sisendit. Vaja on erinevaid vaatenurki, et iseloomustada ja käsitleda keelemudelite toimimist reaalse maailma mitmekesisuses, kus kui neid ei kontrollita, võivad need tugevdada eelarvamusi või mõne rühma puhul ebaõnnestuda.

Avaldage avalikult LLM-i ohutuse ja väärkasutusega seotud õppetunde et võimaldada parimate tavade laialdast kasutuselevõttu ja aidata kaasa tööstusharudevahelisele iteratsioonile.

Kohtle austusega kogu tööjõudu keelemudeli tarneahelas. Näiteks peaksid teenusepakkujatel olema kõrged standardid nende töötingimuste suhtes, kes vaatavad mudeli väljundid ettevõttesiseselt läbi, ja müüjad peavad järgima täpselt määratletud standardeid (nt tagama, et märgistajad saaksid teatud ülesandest loobuda).

LLM-i pakkujatena on nende põhimõtete avaldamine esimene samm turvalisema suurte keelemudelite arendamise ja juurutamise ühisel suunamisel. Meil on hea meel jätkata koostööd omavahel ja teiste osapooltega, et leida teisi võimalusi keelemudelite tahtmatute kahjude vähendamiseks ja pahatahtliku kasutamise vältimiseks.

Laadi alla PDF