OpenAI объявляет о приглашении экспертов присоединиться к сети Red Teaming

OpenAI инициировала открытый конкурс для своих Сеть Красной команды, ищу экспертов в предметной области для повышения мер безопасности своих моделей искусственного интеллекта. Организация стремится сотрудничать с профессионалами из различных областей, чтобы тщательно оценить и «собрать команду» AI систем.

Понимание сети Red Teaming OpenAI

Термин «красная команда» охватывает широкий спектр методов оценки рисков для систем ИИ. Эти методы варьируются от качественного обнаружения возможностей до стресс-тестирования и предоставления обратной связи о шкале риска конкретных уязвимостей. OpenAI уточнила использование термина «красная команда», чтобы избежать путаницы и обеспечить соответствие языку, используемому ее сотрудниками.

За последние годы инициативы красной команды OpenAI превратились из внутреннего состязательного тестирования в сотрудничество с внешними экспертами. Эти эксперты помогают в разработке таксономии рисков для конкретных областей и оценке потенциальных вредоносных возможностей в новых системах. Известные модели, прошедшие такую ​​оценку, включают DALL·E 2 и GPT-4.

Недавно созданная сеть Red Teaming OpenAI направлена ​​на создание сообщества доверенных экспертов. Эти эксперты будут предоставлять информацию об оценке рисков и их смягчении в более широком масштабе, а не о спорадических взаимодействиях перед важными выпусками моделей. Члены будут выбраны на основе их опыта и будут уделять различное количество времени, возможно, всего 5-10 часов в год.

Преимущества присоединения к сети

Присоединившись к сети, эксперты получат возможность влиять на разработку более безопасных технологий и политики искусственного интеллекта. Они будут играть решающую роль в оценке моделей и систем OpenAI на всех этапах их развертывания.

OpenAI подчеркивает важность разнообразного опыта при оценке систем искусственного интеллекта. Организация активно ищет заявки от экспертов со всего мира, уделяя приоритетное внимание как географическому, так и доменному разнообразию. Некоторые из областей, представляющих интерес, включают когнитивную науку, информатику, политологию, здравоохранение, кибербезопасность и многие другие. Знакомство с системами искусственного интеллекта не является обязательным условием, но высоко ценится проактивный подход и уникальный взгляд на оценку воздействия искусственного интеллекта.

Компенсация и конфиденциальность

Участники сети OpenAI Red Teaming Network получат вознаграждение за свой вклад в проекты Red Teaming. Однако им следует знать, что участие в таких проектах может подпадать под действие соглашений о неразглашении (NDA) или оставаться конфиденциальным в течение неопределенного срока.

Прикладной Процесс

Те, кто заинтересован в присоединении к миссии по разработке безопасного искусственного интеллекта на благо человечества, могут подать заявку на вступление в сеть OpenAI Red Teaming Network. 

Отказ от ответственности и уведомление об авторских правах: Содержание этой статьи предназначено только для информационных целей и не предназначено для использования в качестве финансовых рекомендаций. Всегда консультируйтесь с профессионалом, прежде чем принимать какие-либо финансовые решения. Этот материал является исключительной собственностью компании Блокчейн.Новости. Несанкционированное использование, копирование или распространение без явного разрешения запрещено. Для любого разрешенного использования требуется указание авторства и указание исходного контента.

Источник изображения: Shutterstock

• SEO-контент и PR-распределение. Получите усиление сегодня.
• PlatoData.Network Вертикальный генеративный ИИ. Расширьте возможности себя. Доступ здесь.
• ПлатонАйСтрим. Интеллект Web3. Расширение знаний. Доступ здесь.
• ПлатонЭСГ. Углерод, чистые технологии, Энергия, Окружающая среда, Солнечная, Управление отходами. Доступ здесь.
• ПлатонЗдоровье. Биотехнологии и клинические исследования. Доступ здесь.
• Источник: https://Blockchain.News/news/openai-announces-call-for-experts-to-join-its-red-teaming-network