OpenAI kuulutab välja ekspertide kutse liituda oma Red Teaming võrgustikuga

OpenAI on algatanud selle jaoks avatud konkursi Red Teaming Network, otsib valdkonna eksperte oma tehisintellektimudelite ohutusmeetmete tõhustamiseks. Organisatsiooni eesmärk on teha koostööd erinevate valdkondade professionaalidega, et seda hoolikalt hinnata ja "punane meeskond" moodustada AI süsteeme.

OpenAI Red Teaming Networki mõistmine

Mõiste "punane meeskond" hõlmab laia valikut tehisintellektisüsteemide riskihindamise meetodeid. Need meetodid ulatuvad kvalitatiivsest võimekuse avastamisest stressitestimise ja konkreetsete haavatavuste riskiskaala kohta tagasiside andmiseni. OpenAI on selgitanud termini "punane meeskond" kasutamist, et vältida segadust ja tagada kooskõla koostööpartneritega kasutatava keelega.

Viimaste aastate jooksul on OpenAI punased meeskonnatöö algatused arenenud sisemisest võistlevast testimisest kuni koostööni välisekspertidega. Need eksperdid aitavad välja töötada domeenispetsiifilisi riskitaksonoomiaid ja hinnata uute süsteemide võimalikke kahjulikke võimeid. Sellise hindamise läbinud märkimisväärsed mudelid on DALL·E 2 ja GPT-4.

Äsja käivitatud OpenAI Red Teaming Networki eesmärk on luua usaldusväärsete ekspertide kogukond. Need eksperdid annavad ülevaate riskide hindamisest ja leevendamisest laiemalt, mitte juhuslikult enne mudelite märkimisväärset väljalaskmist. Liikmed valitakse nende teadmiste põhjal ja nad panustavad erineval hulgal aega, potentsiaalselt 5–10 tundi aastas.

Võrgustikuga liitumise eelised

Võrgustikuga liitudes saavad eksperdid võimaluse mõjutada turvalisemate tehisintellekti tehnoloogiate ja poliitikate väljatöötamist. Neil on oluline roll OpenAI mudelite ja süsteemide hindamisel nende juurutamisetapi jooksul.

OpenAI rõhutab tehisintellektisüsteemide hindamisel mitmekülgse asjatundlikkuse tähtsust. Organisatsioon otsib aktiivselt taotlusi ekspertidelt üle maailma, seades esikohale nii geograafilise kui ka domeenide mitmekesisuse. Mõned huvipakkuvad valdkonnad on kognitiivteadus, arvutiteadus, politoloogia, tervishoid, küberjulgeolek ja palju muud. Tehisintellektisüsteemide tundmine ei ole eeltingimus, kuid kõrgelt hinnatakse ennetavat lähenemist ja ainulaadset vaatenurka tehisintellekti mõju hindamisele.

Hüvitis ja konfidentsiaalsus

OpenAI Red Teaming Networkis osalejad saavad hüvitist oma panuse eest punase meeskonnatöö projektidesse. Siiski peaksid nad olema teadlikud, et sellistes projektides osalemise suhtes võivad kehtida mitteavaldamise lepingud (NDA) või need võivad jääda määramata ajaks konfidentsiaalseks.

Kandideerimine

Need, kes on huvitatud inimkonna hüvanguks turvalise AGI arendamise missiooniga liitumisest, saavad kandideerida OpenAI Red Teaming Networki liikmeks. 

Kohustustest loobumine ja autoriõiguste teatis: selle artikli sisu on ainult informatiivsel eesmärgil ega ole mõeldud finantsnõustamiseks. Enne mis tahes finantsotsuse tegemist konsulteerige alati spetsialistiga. See materjal on ainuomand Blockchain.Uudised. Volitamata kasutamine, paljundamine või levitamine ilma selgesõnalise loata on keelatud. Mis tahes lubatud kasutuse korral on nõutav originaalsisu nõuetekohane krediit ja juhend.

Kujutise allikas: Shutterstock

• SEO-põhise sisu ja PR-levi. Võimenduge juba täna.
• PlatoData.Network Vertikaalne generatiivne Ai. Jõustage ennast. Juurdepääs siia.
• PlatoAiStream. Web3 luure. Täiustatud teadmised. Juurdepääs siia.
• PlatoESG. Süsinik, CleanTech, Energia, Keskkond päikeseenergia, Jäätmekäitluse. Juurdepääs siia.
• PlatoTervis. Biotehnoloogia ja kliiniliste uuringute luureandmed. Juurdepääs siia.
• Allikas: https://Blockchain.News/news/openai-announces-call-for-experts-to-join-its-red-teaming-network