OpenAI annuncia un invito agli esperti a unirsi alla sua rete Red Teaming

OpenAI annuncia un invito agli esperti a unirsi alla sua rete Red Teaming

Timestamp: 22 settembre 2023 5:33
OpenAI annuncia un invito agli esperti a unirsi alla sua rete Red Teaming PlatoBlockchain Data Intelligence. Ricerca verticale. Ai.

OpenAI ha avviato un bando aperto per il suo Rete di squadra rossa, alla ricerca di esperti del settore per migliorare le misure di sicurezza dei suoi modelli di intelligenza artificiale. L'organizzazione mira a collaborare con professionisti di diversi settori per valutare meticolosamente e “red team” la propria AI sistemi.

Comprensione della rete OpenAI Red Teaming

Il termine “red teaming” comprende un’ampia gamma di tecniche di valutazione del rischio per i sistemi di intelligenza artificiale. Questi metodi vanno dalla scoperta qualitativa delle capacità allo stress test e al feedback sulla scala di rischio di vulnerabilità specifiche. OpenAI ha chiarito l'uso del termine “squadra rossa” per evitare confusione e garantire l'allineamento con il linguaggio utilizzato con i suoi collaboratori.

Negli ultimi anni, le iniziative di red teaming di OpenAI si sono evolute dai test contraddittori interni alla collaborazione con esperti esterni. Questi esperti assistono nello sviluppo di tassonomie di rischio specifiche per dominio e nella valutazione di potenziali capacità dannose nei nuovi sistemi. I modelli degni di nota sottoposti a tale valutazione includono DALL·E 2 e GPT-4.

Il nuovo OpenAI Red Teaming Network mira a creare una comunità di esperti fidati. Questi esperti forniranno approfondimenti sulla valutazione e mitigazione del rischio su scala più ampia, piuttosto che su impegni sporadici prima del rilascio di modelli significativi. I membri saranno selezionati in base alla loro esperienza e contribuiranno con quantità di tempo variabili, potenzialmente fino a 5-10 ore all'anno.

Vantaggi dell'adesione alla rete

Unendosi alla rete, gli esperti avranno l’opportunità di influenzare lo sviluppo di tecnologie e politiche di IA più sicure. Svolgeranno un ruolo cruciale nella valutazione dei modelli e dei sistemi di OpenAI durante le loro fasi di implementazione.

OpenAI sottolinea l’importanza di competenze diversificate nella valutazione dei sistemi di intelligenza artificiale. L'organizzazione è attivamente alla ricerca di candidature da parte di esperti in tutto il mondo, dando priorità alla diversità sia geografica che di dominio. Alcuni dei settori di interesse includono scienze cognitive, informatica, scienze politiche, sanità, sicurezza informatica e molti altri. La familiarità con i sistemi di IA non è un prerequisito, ma un approccio proattivo e una prospettiva unica sulla valutazione dell’impatto dell’IA sono molto apprezzati.

Compensazione e riservatezza

I partecipanti all'OpenAI Red Teaming Network riceveranno un compenso per i loro contributi ai progetti Red Teaming. Tuttavia, dovrebbero essere consapevoli che il coinvolgimento in tali progetti potrebbe essere soggetto ad accordi di non divulgazione (NDA) o rimanere riservato per una durata indefinita.

Procedura di candidatura

Coloro che sono interessati a unirsi alla missione per sviluppare un'AGI sicura a beneficio dell'umanità possono fare domanda per far parte della rete OpenAI Red Teaming. 

Dichiarazione di non responsabilità e avviso di copyright: il contenuto di questo articolo è solo a scopo informativo e non è inteso come consulenza finanziaria. Consultarsi sempre con un professionista prima di prendere qualsiasi decisione finanziaria. Questo materiale è di proprietà esclusiva di Blockchain.Notizie. È vietato l'uso non autorizzato, la duplicazione o la distribuzione senza esplicita autorizzazione. Per qualsiasi utilizzo consentito sono richiesti crediti e indicazioni adeguati al contenuto originale.

Fonte immagine: Shutterstock

Timestamp:

Di più da News di Blockchain