Migliori pratiche per la distribuzione di modelli linguistici

Raccomandazione congiunta per l'implementazione del modello linguistico

Stiamo raccomandando diversi principi chiave per aiutare i fornitori di modelli linguistici di grandi dimensioni (LLM) a mitigare i rischi di questa tecnologia al fine di realizzare la sua piena promessa di aumentare le capacità umane.

Sebbene questi principi siano stati sviluppati specificamente sulla base della nostra esperienza con la fornitura di LLM tramite un'API, speriamo che siano utili indipendentemente dalla strategia di rilascio (come l'open-sourcing o l'utilizzo all'interno di un'azienda). Ci aspettiamo che queste raccomandazioni cambino in modo significativo nel tempo perché gli usi commerciali degli LLM e le relative considerazioni sulla sicurezza sono nuovi e in evoluzione. Stiamo attivamente imparando e affrontando i limiti e le vie per l'uso improprio di LLM e aggiorneremo questi principi e pratiche in collaborazione con la comunità più ampia nel tempo.

Condividiamo questi principi nella speranza che altri fornitori di LLM possano imparare da essi e adottarli e per promuovere la discussione pubblica sullo sviluppo e l'implementazione di LLM.

Proibire l'uso improprio

Pubblica le linee guida per l'uso e i termini di utilizzo di LLM in un modo che vieti danni materiali a individui, comunità e società, ad esempio attraverso spam, frode o astroturfing. Le linee guida sull'utilizzo dovrebbero anche specificare i domini in cui l'uso di LLM richiede un controllo aggiuntivo e vietare casi d'uso ad alto rischio non appropriati, come la classificazione delle persone in base a caratteristiche protette.

Costruisci sistemi e infrastrutture per applicare le linee guida sull'utilizzo. Ciò può includere limiti di velocità, filtraggio dei contenuti, approvazione dell'applicazione prima dell'accesso alla produzione, monitoraggio di attività anomale e altre mitigazioni.

Mitiga il danno non intenzionale

Attenuazione proattiva del comportamento dannoso del modello. Le migliori pratiche includono una valutazione completa del modello per valutare correttamente i limiti, ridurre al minimo le potenziali fonti di pregiudizi nei corpora di formazione e tecniche per ridurre al minimo i comportamenti non sicuri, ad esempio attraverso l'apprendimento dal feedback umano.

Documentare i punti deboli e le vulnerabilità noti, come pregiudizi o capacità di produrre codice non sicuro, poiché in alcuni casi nessun grado di azione preventiva può eliminare completamente il potenziale danno indesiderato. La documentazione dovrebbe includere anche le migliori pratiche di sicurezza specifiche per modello e caso d'uso.

Collaborare premurosamente con le parti interessate

Crea squadre con background diversi e sollecitare un ampio contributo. Sono necessarie diverse prospettive per caratterizzare e affrontare il modo in cui i modelli linguistici funzioneranno nella diversità del mondo reale, dove, se non controllati, possono rafforzare i pregiudizi o non funzionare per alcuni gruppi.

Divulgare pubblicamente le lezioni apprese in merito alla sicurezza e all'uso improprio di LLM al fine di consentire un'adozione diffusa e aiutare con l'iterazione intersettoriale sulle migliori pratiche.

Trattate con rispetto tutto il lavoro nella catena di approvvigionamento del modello linguistico. Ad esempio, i fornitori dovrebbero avere standard elevati per le condizioni di lavoro di coloro che riesaminano internamente i risultati del modello e mantenere i fornitori a standard ben specifici (ad esempio, garantire che gli etichettatori siano in grado di rinunciare a un determinato compito).

In qualità di provider LLM, la pubblicazione di questi principi rappresenta un primo passo per guidare in modo collaborativo lo sviluppo e l'implementazione di modelli linguistici di grandi dimensioni più sicuri. Siamo entusiasti di continuare a lavorare insieme e con altre parti per identificare altre opportunità per ridurre i danni non intenzionali e prevenire l'uso dannoso dei modelli linguistici.

Scarica come PDF