Cele mai bune practici pentru implementarea modelelor lingvistice

Recomandare comună pentru implementarea modelului lingvistic

Recomandăm câteva principii cheie pentru a ajuta furnizorii de modele lingvistice mari (LLM) să atenueze riscurile acestei tehnologii pentru a-și îndeplini pe deplin promisiunea de a spori capacitățile umane.

Deși aceste principii au fost dezvoltate în mod special pe baza experienței noastre în furnizarea de LLM-uri printr-un API, sperăm că vor fi utile indiferent de strategia de lansare (cum ar fi open-sourcing sau utilizarea în cadrul unei companii). Ne așteptăm ca aceste recomandări să se schimbe semnificativ în timp, deoarece utilizările comerciale ale LLM-urilor și considerentele de siguranță aferente sunt noi și în evoluție. Învățăm în mod activ și abordăm limitările LLM și căile de utilizare greșită și vom actualiza aceste principii și practici în colaborare cu comunitatea mai largă de-a lungul timpului.

Împărtășim aceste principii în speranța că alți furnizori de LLM ar putea învăța și să le adopte și să promoveze discuțiile publice despre dezvoltarea și implementarea LLM.

Interziceți utilizarea abuzivă

Publicați regulile de utilizare și termenii de utilizare de LLM într-un mod care interzice vătămările materiale aduse persoanelor, comunităților și societății, cum ar fi prin spam, fraudă sau astroturfing. Orientările de utilizare ar trebui să specifice, de asemenea, domeniile în care utilizarea LLM necesită un control suplimentar și să interzică cazurile de utilizare cu risc ridicat care nu sunt adecvate, cum ar fi clasificarea persoanelor pe baza caracteristicilor protejate.

Construiți sisteme și infrastructură pentru a aplica regulile de utilizare. Acestea pot include limite ale ratei, filtrarea conținutului, aprobarea aplicației înainte de accesul la producție, monitorizarea activității anormale și alte atenuări.

Reduceți vătămările neintenționate

Reduceți în mod proactiv comportamentul dăunător al modelului. Cele mai bune practici includ evaluarea cuprinzătoare a modelului pentru a evalua corect limitările, minimizarea surselor potențiale de părtinire în corpurile de instruire și tehnici pentru a minimiza comportamentul nesigur, cum ar fi prin învățarea din feedbackul uman.

Documentați punctele slabe și vulnerabilități cunoscute, cum ar fi părtinirea sau capacitatea de a produce cod nesigur, deoarece în unele cazuri nici un grad de acțiune preventivă nu poate elimina complet potențialul de vătămare neintenționată. Documentația ar trebui să includă, de asemenea, cele mai bune practici de siguranță specifice modelului și cazului de utilizare.

Colaborați atent cu părțile interesate

Formați echipe cu medii diverse și solicitați o contribuție largă. Sunt necesare perspective diverse pentru a caracteriza și aborda modul în care modelele lingvistice vor funcționa în diversitatea lumii reale, unde, dacă nu sunt verificate, ele pot întări prejudecățile sau pot eșua pentru unele grupuri.

Dezvăluie public lecțiile învățate cu privire la siguranța LLM și utilizarea abuzivă pentru a permite adoptarea pe scară largă și pentru a ajuta la iterarea intersectorială a celor mai bune practici.

Tratați cu respect toată munca din lanțul de aprovizionare a modelului lingvistic. De exemplu, furnizorii ar trebui să aibă standarde înalte pentru condițiile de lucru ale celor care revizuiesc rezultatele modelului în interior și să îi țină pe furnizori la standarde bine specificate (de exemplu, să se asigure că etichetatorii pot renunța la o anumită sarcină).

În calitate de furnizori LLM, publicarea acestor principii reprezintă un prim pas în ghidarea în colaborare a dezvoltării și implementării mai sigure a modelelor lingvistice mari. Suntem încântați să continuăm să lucrăm unul cu celălalt și cu alte părți pentru a identifica alte oportunități de a reduce daunele neintenționate și de a preveni utilizarea rău intenționată a modelelor de limbaj.

Descărcați ca PDF