Novo in izboljšano orodje za moderiranje vsebine

Da bi razvijalcem pomagali zaščititi svoje aplikacije pred morebitno zlorabo, uvajamo hitrejše in natančnejše Končna točka moderiranja. Ta končna točka omogoča razvijalcem OpenAI API brezplačen dostop do Temelji na GPT klasifikatorji, ki zaznajo neželeno vsebino – primerek uporabo sistemov AI za pomoč pri človeškem nadzoru teh sistemov. Izdali smo tudi oba a tehnični papir ki opisuje našo metodologijo in nabor podatkov uporablja za vrednotenje.

Ko dobi vnos besedila, končna točka moderiranja oceni, ali je vsebina spolna, sovražna, nasilna ali spodbuja samopoškodovanje – vsebina, ki jo naši politiko vsebine. Končna točka je bila usposobljena za hitro, natančno in robustno delovanje v različnih aplikacijah. Pomembno je, da to zmanjša možnosti, da bi izdelki "sporočili" napačno stvar, tudi če so nameščeni uporabnikom v velikem obsegu. Posledično lahko umetna inteligenca odklene prednosti v občutljivih okoljih, kot je izobraževanje, kjer je sicer ne bi mogli zanesljivo uporabljati.

Končna točka Moderation razvijalcem pomaga izkoristiti naše naložbe v infrastrukturo. Namesto da gradijo in vzdržujejo lastne klasifikatorje – obsežen postopek, kot dokumentiramo v našem papirja—namesto tega lahko dostopajo do natančnih klasifikatorjev prek enega klica API-ja.

Kot del OpenAI-ja Zaveza do naredi ekosistem AI varnejši, zagotavljamo to končno točko, da omogočimo brezplačno moderiranje vse vsebine, ustvarjene z API-jem OpenAI. Na primer, Inworld, stranka API-ja OpenAI, uporablja končno točko moderiranja, da pomaga svojim virtualnim likom, ki temeljijo na AI, "ostati pri skriptu". Z uporabo tehnologije OpenAI se lahko Inworld osredotoči na svoj glavni izdelek – ustvarjanje nepozabnih likov.

Poleg tega pozdravljamo uporabo končne točke za moderiranje vsebine ne ustvarjen z API-jem OpenAI. V enem primeru podjetje ngl – platforma za anonimno sporočanje s poudarkom na varnosti – uporablja končno točko Moderation za odkrivanje sovražnega jezika in ustrahovanja v njihovi aplikaciji. NGL ugotavlja, da so ti klasifikatorji sposobni posplošiti na najnovejši sleng, kar jim omogoča, da sčasoma ostanejo bolj samozavestni. Uporaba končne točke moderiranja za spremljanje prometa, ki ni API, je v zasebni različici beta in bo predmet plačila. Če vas zanima, se obrnite na nas na support@openai.com.

Začnite s končno točko moderiranja tako, da preverite dokumentacijo. Več podrobnosti o procesu usposabljanja in uspešnosti modela je na voljo v našem papirja. Izdali smo tudi an nabor ocenjevalnih podatkov, ki vsebuje podatke Common Crawl, označene v teh kategorijah, za katere upamo, da bodo spodbudile nadaljnje raziskave na tem področju.