Представляем сервисные карты AWS AI: новый ресурс для повышения прозрачности и продвижения ответственного ИИ

Искусственный интеллект (ИИ) и машинное обучение (МО) — одни из самых революционных технологий, с которыми мы столкнемся в нашем поколении, — для решения деловых и социальных проблем, улучшения качества обслуживания клиентов и стимулирования инноваций. Наряду с широким использованием и растущим масштабом ИИ приходит признание того, что мы все должны строить ответственно. Мы в AWS считаем, что ответственный ИИ включает в себя ряд основных аспектов, в том числе:

• Справедливость и предвзятость– Как система влияет на различные подгруппы пользователей (например, по полу, этнической принадлежности)
• Объяснимость– Механизмы для понимания и оценки выходных данных системы ИИ.
• Конфиденциальность и безопасность– Данные защищены от кражи и раскрытия
• прочность– Механизмы, обеспечивающие надежную работу системы ИИ.
• Управление– Процессы для определения, внедрения и обеспечения соблюдения ответственных методов ИИ в организации.
• Прозрачность– Передача информации о системе ИИ, чтобы заинтересованные стороны могли сделать осознанный выбор в отношении использования системы.

Наша приверженность ответственному развитию ИИ и машинного обучения является неотъемлемой частью того, как мы создаем наши услуги, взаимодействуем с клиентами и продвигаем инновации. Мы также стремимся предоставить клиентам инструменты и ресурсы для ответственной разработки и использования ИИ/МО, от предоставления разработчикам машинного обучения полностью управляемой среды разработки до помощи клиентам встраивания ИИ-сервисов в стандартные варианты использования в бизнесе.

Предоставление клиентам большей прозрачности

Наши клиенты хотят знать, что технология, которую они используют, была разработана ответственным образом. Им нужны ресурсы и руководство для ответственного внедрения этой технологии в их собственной организации. И самое главное, они хотят убедиться, что внедряемые ими технологии приносят пользу всем, особенно их конечным пользователям. В AWS мы хотим помочь им воплотить это видение в жизнь.

Чтобы обеспечить прозрачность, о которой просят клиенты, мы рады запустить Сервисные карты AWS AI, новый ресурс, который поможет клиентам лучше понять наши сервисы AWS AI. Сервисные карты ИИ — это форма ответственной документации по ИИ, которая предоставляет клиентам единое место для поиска информации о предполагаемых вариантах использования и ограничениях, ответственном выборе дизайна ИИ, а также передовых методах развертывания и оптимизации производительности для наших служб ИИ. Они являются частью комплексного процесса разработки, который мы предпринимаем для ответственного построения наших сервисов, учитывающего справедливость и предвзятость, объяснимость, надежность, управление, прозрачность, конфиденциальность и безопасность. На AWS re:Invent 2022 мы делаем доступными первые три сервисные карты AI: Amazon Rekognition — сопоставление лиц, Amazon Text – AnalyzeIDи Amazon Transcribe – Пакетная обработка (английский-США).

Компоненты сервисных карт ИИ

Каждая сервисная карта AI содержит четыре раздела, охватывающих:

• Основные концепции, помогающие клиентам лучше понять услугу или функции услуги
• Предполагаемые варианты использования и ограничения
• Вопросы ответственного проектирования ИИ
• Руководство по развертыванию и оптимизации производительности

Содержание сервисных карт ИИ предназначено для широкой аудитории клиентов, технологов, исследователей и других заинтересованных сторон, которые стремятся лучше понять ключевые аспекты ответственного проектирования и использования ИИ-сервиса.

Наши клиенты используют ИИ во все более разнообразных приложениях. раздел предполагаемых вариантов использования и ограничений предоставляет информацию об обычном использовании службы и помогает клиентам оценить, подходит ли служба для их приложения. Например, в карточке Amazon Transcribe — Batch (English-US) мы описываем вариант использования сервиса для расшифровки лексики общего назначения, произносимой на английском языке США, из аудиофайла. Если компании требуется решение, которое автоматически расшифровывает событие, связанное с предметной областью, например международную конференцию по неврологии, она может добавить пользовательские словари и языковые модели, чтобы включить научную лексику, чтобы повысить точность транскрипции.

В раздел дизайна каждой сервисной карты ИИ мы объясняем ключевые соображения ответственного проектирования ИИ в важных областях, таких как наша методология, основанная на тестах, справедливость и предвзятость, объяснимость и ожидаемая производительность. Мы предоставляем пример результатов производительности для набора данных для оценки, который является типичным примером использования. Однако этот пример является лишь отправной точкой, так как мы рекомендуем клиентам тестировать свои собственные наборы данных, чтобы лучше понять, как сервис будет работать с их собственным контентом и вариантами использования, чтобы обеспечить наилучшие впечатления для своих конечных клиентов. И это не разовая оценка. Для ответственного построения мы рекомендуем итеративный подход, при котором клиенты периодически проверяют и оценивают свои приложения на точность или потенциальную погрешность.

В раздел лучших практик по развертыванию и оптимизации производительности, мы представляем ключевые рычаги, которые клиенты должны учитывать, чтобы оптимизировать производительность своего приложения для реального развертывания. Важно объяснить, как клиенты могут оптимизировать производительность системы искусственного интеллекта, которая действует как компонент их общего приложения или рабочего процесса, чтобы получить максимальную выгоду. Например, в карточке сопоставления лиц Amazon Rekognition, которая охватывает добавление возможностей распознавания лиц в приложения для проверки личности, мы рассказываем о шагах, которые клиенты могут предпринять для повышения качества прогнозов сопоставления лиц, включенных в их рабочий процесс.

Предоставление ответственных ресурсов и возможностей ИИ

Предложение нашим клиентам ресурсов и инструментов, необходимых им для перехода от теории ответственного ИИ к практике, является постоянным приоритетом для AWS. Ранее в этом году мы запустили нашу Руководство по ответственному использованию машинного обучения в котором содержатся соображения и рекомендации по ответственному использованию машинного обучения на всех этапах жизненного цикла машинного обучения. Сервисные карты AI дополняют наши существующие руководства для разработчиков и сообщения в блогах, которые предоставляют разработчикам описания сервисных функций и подробные инструкции по использованию наших сервисных API. И с Amazon SageMaker Уточнить и Монитор моделей Amazon SageMaker, мы предлагаем возможности, помогающие обнаруживать предвзятость в наборах данных и моделях, а также лучше отслеживать и анализировать прогнозы моделей с помощью автоматизации и контроля со стороны человека.

В то же время мы продолжаем продвигать ответственный ИИ в других ключевых аспектах, таких как управление. Сегодня в re:Invent мы запустили новый набор специально разработанных инструментов, которые помогут клиентам улучшить управление своими проектами машинного обучения с помощью Amazon SageMaker Role Manager, карточек моделей Amazon SageMaker и панели управления моделями Amazon SageMaker. Узнайте больше на Блог новостей AWS и веб-сайт о том, как эти инструменты помогают оптимизировать процессы управления машинным обучением.

Образование — еще один ключевой ресурс, который помогает продвигать ответственный ИИ. В AWS мы стремимся создать новое поколение разработчиков и специалистов по данным в области ИИ с помощью стипендиальной программы AI и ML и Университет машинного обучения AWS (МЛУ). На этой неделе в re:Invent мы запустили новый общедоступный курс MLU, посвященный соображениям справедливости и уменьшению предвзятости на протяжении всего жизненного цикла машинного обучения. Этот бесплатный курс, который преподают те же специалисты по данным Amazon, которые обучают сотрудников AWS машинному обучению, включает 9 часов лекций и практических упражнений, и его легко освоить. начать.

Сервисные карты AI: новый ресурс и постоянное обязательство

Мы рады представить нашим клиентам и более широкому сообществу новый ресурс прозрачности и предоставить дополнительную информацию о предполагаемом использовании, ограничениях, дизайне и оптимизации наших сервисов ИИ, основанную на нашем строгом подходе к ответственному созданию сервисов ИИ AWS. . Мы надеемся, что карты обслуживания ИИ станут полезным ресурсом прозрачности и важным шагом в развитии ответственного ИИ. Карты обслуживания AI будут продолжать развиваться и расширяться, поскольку мы взаимодействуем с нашими клиентами и более широким сообществом, собирая отзывы и постоянно совершенствуя наш подход.

Свяжитесь с нашей группой ответственных экспертов по искусственному интеллекту начать разговор.

---

Об авторах

Васи Филомин в настоящее время является вице-президентом группы AWS AI по услугам в области языковых и речевых технологий, таких как Amazon Lex, Amazon Polly, Amazon Translate, Amazon Transcribe/Transcribe Medical, Amazon Comprehend, Amazon Kendra, Amazon Code Whisperer, Amazon Monitron, Amazon Ищите оборудование и контактные линзы/голосовой идентификатор для Amazon Connect, а также лабораторию решений для машинного обучения и ответственный искусственный интеллект.

Питер Халлинан возглавляет инициативы в области науки и практики ответственного ИИ в AWS AI вместе с командой ответственных экспертов в области ИИ. Он обладает глубокими знаниями в области искусственного интеллекта (доктор философии, Гарвард) и предпринимательства (Blindsight, продано Amazon). Его волонтерская деятельность включала работу профессором-консультантом в Медицинской школе Стэнфордского университета и президентом Американской торговой палаты на Мадагаскаре. Когда есть возможность, он уезжает в горы с детьми: катается на лыжах, скалолазает, ходит в походы и занимается рафтингом.