OpenAI anunță apel pentru experți pentru a se alătura rețelei sale Red Teaming

OpenAI a inițiat un apel deschis pentru acesta Red Teaming Network, căutând experți în domeniu pentru a îmbunătăți măsurile de siguranță ale modelelor sale AI. Organizația își propune să colaboreze cu profesioniști din diverse domenii pentru a-și evalua meticulos și „echipa roșie”. AI sisteme.

Înțelegerea rețelei OpenAI Red Teaming

Termenul „echipă roșie” cuprinde o gamă largă de tehnici de evaluare a riscurilor pentru sistemele AI. Aceste metode variază de la descoperirea calitativă a capacității până la testarea de stres și furnizarea de feedback cu privire la scara riscului unor vulnerabilități specifice. OpenAI a clarificat utilizarea termenului „echipă roșie” pentru a evita confuzia și pentru a asigura alinierea la limbajul folosit cu colaboratorii săi.

De-a lungul ultimilor ani, inițiativele de echipă roșie ale OpenAI au evoluat de la testarea adversă internă la colaborarea cu experți externi. Acești experți ajută la dezvoltarea taxonomiilor de risc specifice domeniului și la evaluarea capacităților potențiale dăunătoare în sisteme noi. Modelele notabile care au fost supuse unei astfel de evaluări includ DALL·E 2 și GPT-4.

Rețeaua OpenAI Red Teaming recent lansată își propune să stabilească o comunitate de experți de încredere. Acești experți vor oferi informații despre evaluarea și atenuarea riscurilor la o scară mai largă, mai degrabă decât angajamentele sporadice înainte de lansările semnificative de modele. Membrii vor fi selectați pe baza expertizei lor și vor contribui cu o perioadă variată de timp, potențial de până la 5-10 ore anual.

Beneficiile aderării la rețea

Prin alăturarea rețelei, experții vor avea ocazia să influențeze dezvoltarea unor tehnologii și politici mai sigure AI. Aceștia vor juca un rol crucial în evaluarea modelelor și sistemelor OpenAI pe parcursul fazelor lor de implementare.

OpenAI subliniază importanța expertizei diverse în evaluarea sistemelor AI. Organizația caută în mod activ aplicații de la experți din întreaga lume, acordând prioritate atât diversității geografice, cât și a domeniilor. Unele dintre domeniile de interes includ știința cognitivă, informatica, știința politică, asistența medicală, securitatea cibernetică și multe altele. Familiarizarea cu sistemele AI nu este o condiție prealabilă, dar o abordare proactivă și o perspectivă unică asupra evaluării impactului AI sunt foarte apreciate.

Compensație și confidențialitate

Participanții la OpenAI Red Teaming Network vor primi compensații pentru contribuțiile lor la proiectele Red Teaming. Cu toate acestea, ei ar trebui să fie conștienți de faptul că implicarea în astfel de proiecte ar putea face obiectul unor Acorduri de confidențialitate (ADN) sau poate rămâne confidențială pentru o perioadă nedeterminată.

Procesul de aplicare

Cei interesați să se alăture misiunii de a dezvolta AGI sigur în beneficiul umanității pot aplica pentru a face parte din OpenAI Red Teaming Network. 

Exonerare de responsabilitate și notificare privind drepturile de autor: conținutul acestui articol are doar scop informativ și nu este conceput ca un sfat financiar. Consultați-vă întotdeauna cu un profesionist înainte de a lua orice decizie financiară. Acest material este proprietatea exclusivă a Blockchain.Noutăți. Utilizarea neautorizată, duplicarea sau distribuirea fără permisiunea expresă este interzisă. Pentru orice utilizare permisă, sunt necesare credite adecvate și direcționări către conținutul original.

Sursa imaginii: Shutterstock

• Distribuție de conținut bazat pe SEO și PR. Amplifică-te astăzi.
• PlatoData.Network Vertical Generative Ai. Împuterniciți-vă. Accesați Aici.
• PlatoAiStream. Web3 Intelligence. Cunoștințe amplificate. Accesați Aici.
• PlatoESG. carbon, CleanTech, Energie, Mediu inconjurator, Solar, Managementul deșeurilor. Accesați Aici.
• PlatoHealth. Biotehnologie și Inteligență pentru studii clinice. Accesați Aici.
• Sursa: https://Blockchain.News/news/openai-announces-call-for-experts-to-join-its-red-teaming-network