OpenAI, 레드팀 네트워크에 참여할 전문가 모집 발표

OpenAI가 공개 모집을 시작했습니다. 레드팀 네트워크, AI 모델의 안전 조치를 강화하기 위해 도메인 전문가를 찾고 있습니다. 이 조직은 다양한 분야의 전문가들과 협력하여 꼼꼼하게 평가하고 "레드팀"을 구성하는 것을 목표로 합니다. AI 시스템.

OpenAI 레드팀 네트워크 이해

"레드팀 구성"이라는 용어에는 AI 시스템에 대한 광범위한 위험 평가 기술이 포함됩니다. 이러한 방법은 정성적 기능 발견부터 스트레스 테스트 및 특정 취약점의 위험 규모에 대한 피드백 제공에 이르기까지 다양합니다. OpenAI는 혼란을 피하고 협력자들과 함께 사용되는 언어와의 일치를 보장하기 위해 "레드팀"이라는 용어의 사용을 명확히 했습니다.

지난 몇 년 동안 OpenAI의 레드 팀 구성 이니셔티브는 내부 적대 테스트에서 외부 전문가와의 협력으로 발전했습니다. 이들 전문가는 도메인별 위험 분류법을 개발하고 새로운 시스템의 잠재적인 유해 기능을 평가하는 데 도움을 줍니다. 이러한 평가를 받은 주목할만한 모델로는 DALL·E 2 및 GPT-4가 있습니다.

새로 출시된 OpenAI Red Teaming Network는 신뢰할 수 있는 전문가 커뮤니티 구축을 목표로 합니다. 이러한 전문가들은 중요한 모델 출시 전에 산발적인 참여보다는 더 넓은 규모의 위험 평가 및 완화에 대한 통찰력을 제공할 것입니다. 회원은 전문성을 바탕으로 선정되며 연간 5~10시간 정도의 다양한 시간을 제공하게 됩니다.

네트워크 가입의 이점

전문가들은 네트워크에 참여함으로써 보다 안전한 AI 기술 및 정책 개발에 영향을 미칠 수 있는 기회를 갖게 됩니다. 이들은 배포 단계 전반에 걸쳐 OpenAI의 모델과 시스템을 평가하는 데 중요한 역할을 할 것입니다.

OpenAI는 AI 시스템 평가에 있어 다양한 전문 지식의 중요성을 강조합니다. 조직은 지리적 및 도메인 다양성을 우선시하면서 전 세계 전문가로부터 지원서를 적극적으로 찾고 있습니다. 관심 분야에는 인지 과학, 컴퓨터 과학, 정치 과학, 의료, 사이버 보안 등이 포함됩니다. AI 시스템에 대한 친숙함이 필수조건은 아니지만, AI 영향 평가에 대한 선제적인 접근 방식과 독특한 관점은 높이 평가됩니다.

보상 및 기밀 유지

OpenAI 레드팀 네트워크 참가자는 레드팀 프로젝트에 기여한 대가로 보상을 받게 됩니다. 그러나 그러한 프로젝트에 참여하면 비공개 계약(NDA)이 적용되거나 무기한 기밀로 유지될 수 있다는 점을 인식해야 합니다.

신청 절차

인류의 이익을 위해 안전한 AGI를 개발하려는 사명에 관심이 있는 사람들은 OpenAI Red Teaming Network에 지원할 수 있습니다. 

면책 조항 및 저작권 공지: 이 기사의 내용은 정보 제공의 목적으로만 제공되며 재정적인 조언을 제공하기 위한 것이 아닙니다. 재정적 결정을 내리기 전에 항상 전문가와 상담하십시오. 이 자료는 의 독점 재산입니다. 블록 체인. 뉴스. 명시적인 허가 없이 무단 사용, 복제, 배포를 금지합니다. 허용된 사용에는 원본 콘텐츠에 대한 적절한 출처와 방향이 필요합니다.

이미지 출처 : Shutterstock

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://Blockchain.News/news/openai-announces-call-for-experts-to-join-its-red-teaming-network