Генеративний штучний інтелект (ШІ) змінює досвід клієнтів у галузях по всьому світу. Клієнти створюють генеративні програми штучного інтелекту, використовуючи великі мовні моделі (LLM) та інші базові моделі (FM), які покращують взаємодію з клієнтами, трансформують операції, підвищують продуктивність співробітників і створюють нові канали доходу.
FM і створені навколо них додатки є надзвичайно цінними інвестиціями для наших клієнтів. Вони часто використовуються з дуже конфіденційними бізнес-даними, наприклад особистими даними, даними про відповідність, операційними даними та фінансовою інформацією, щоб оптимізувати результат моделі. Найбільше занепокоєння, яке ми чуємо від клієнтів, коли вони досліджують переваги генеративного штучного інтелекту, полягає в тому, як захистити свої дуже конфіденційні дані та інвестиції. Оскільки їхні дані та ваги моделей неймовірно цінні, клієнти вимагають, щоб вони залишалися захищеними, безпечними та конфіденційними, незалежно від того, чи йдеться про облікові записи їхніх власних адміністраторів, їхніх клієнтів, уразливості програмного забезпечення, що працює в їхніх власних середовищах, або навіть від того, що їх постачальник хмарних послуг має доступу.
В AWS нашим головним пріоритетом є забезпечення безпеки та конфіденційності робочих навантажень наших клієнтів. Ми думаємо про безпеку на трьох рівнях нашого генеративного стеку ШІ:
- Нижній шар – Надає інструменти для створення та навчання LLM та інших FM
- Середній шар – Надає доступ до всіх моделей разом із інструментами, необхідними для створення та масштабування генеративних програм ШІ
- Верхній шар – Включає додатки, які використовують LLM та інші FM, щоб полегшити роботу шляхом написання та налагодження коду, генерації вмісту, отримання інформації та виконання дій.
Кожен рівень важливий для того, щоб генеративний ШІ став всеосяжним і перетворюючим.
З Система AWS Nitro, ми представили першу у своєму роді інновацію від імені наших клієнтів. Система Nitro — це безпрецедентна обчислювальна основа для AWS, в основі якої лежить безпека та продуктивність. Його спеціалізоване апаратне забезпечення та пов’язане з ним мікропрограмне забезпечення розроблено для забезпечення дотримання обмежень, щоб ніхто, включаючи будь-кого в AWS, не міг отримати доступ до ваших робочих навантажень або даних, що працюють на вашому Обчислювальна хмара Amazon Elastic (Amazon EC2). З 2 року клієнти скористалися перевагами цієї конфіденційності та ізоляції від операторів AWS на всіх примірниках EC2017 на базі Nitro.
Відповідно до дизайну, не існує механізму, за допомогою якого будь-який співробітник Amazon міг би отримати доступ до примірника Nitro EC2, який клієнти використовують для виконання своїх робочих навантажень, або отримати доступ до даних, які клієнти надсилають до прискорювача машинного навчання (ML) або GPU. Цей захист поширюється на всі екземпляри на основі Nitro, включаючи екземпляри з такими прискорювачами машинного навчання AWS Inferentia та AWS Trainiumі екземпляри з графічними процесорами, наприклад P4, P5, G5 і G6.
Система Nitro дозволяє Еластичний тканинний адаптер (EFA), який використовує розроблений AWS протокол зв’язку AWS Scalable Reliable Datagram (SRD) для еластичного та широкомасштабного розподіленого навчання в масштабі хмари, створюючи єдину постійно зашифровану мережу з підтримкою віддаленого прямого доступу до пам’яті (RDMA). Уся комунікація через EFA зашифрована за допомогою Шифрування VPC без покарання за виконання.
Дизайн Nitro System був розроблений затверджено NCC Group, незалежна фірма з кібербезпеки. AWS забезпечує високий рівень захисту робочих навантажень клієнтів, і ми вважаємо, що це той рівень безпеки та конфіденційності, якого клієнти повинні очікувати від свого хмарного постачальника. Цей рівень захисту настільки важливий, що ми додали його в наш Умови обслуговування AWS щоб забезпечити додаткову гарантію всім нашим клієнтам.
Інноваційні безпечні генеративні робочі навантаження ШІ з використанням провідних у галузі можливостей безпеки AWS
З першого дня інфраструктура та служби AWS AI мали вбудовані функції безпеки та конфіденційності, які дають вам можливість контролювати свої дані. Оскільки клієнти швидко переходять до впровадження генеративного штучного інтелекту у своїх організаціях, вам потрібно знати, що ваші дані безпечно обробляються протягом усього життєвого циклу штучного інтелекту, включаючи підготовку даних, навчання та висновки. Безпека вагових коефіцієнтів моделі — параметрів, які модель вивчає під час навчання і є критичними для її здатності робити прогнози — має першочергове значення для захисту ваших даних і підтримки цілісності моделі.
Ось чому для AWS надзвичайно важливо продовжувати впроваджувати інновації від імені наших клієнтів, щоб підняти планку безпеки на кожному рівні генеративного стеку AI. Для цього ми вважаємо, що у вас повинні бути вбудовані засоби безпеки та конфіденційності на кожному рівні генеративного стеку AI. Ви повинні бути в змозі захистити інфраструктуру для навчання LLM та інших FM, створювати безпечні інструменти для запуску LLM та інших FM, а також запускати програми, які використовують FM із вбудованою безпекою та конфіденційністю, якій ви можете довіряти.
В AWS безпека інфраструктури штучного інтелекту означає нульовий доступ до конфіденційних даних штучного інтелекту, таких як ваги моделі штучного інтелекту та даних, оброблених за допомогою цих моделей, будь-якою неавторизованою особою як у оператора інфраструктури, так і у клієнта. Він складається з трьох ключових принципів:
- Повна ізоляція даних ШІ від оператора інфраструктури – Оператор інфраструктури не повинен мати доступу до контенту клієнта та даних штучного інтелекту, таких як ваги моделі штучного інтелекту та дані, оброблені за допомогою моделей.
- Можливість для клієнтів ізолювати дані ШІ від себе – Інфраструктура повинна забезпечувати механізм, який дозволяє завантажувати вагові коефіцієнти моделей і дані в апаратне забезпечення, залишаючись ізольованою та недоступною для власних користувачів і програмного забезпечення клієнтів.
- Захищені інфраструктурні комунікації – Зв’язок між пристроями в інфраструктурі прискорювача ML має бути захищений. Усі зовнішні доступні посилання між пристроями мають бути зашифровані.
Система Nitro відповідає першому принципу безпечної інфраструктури ШІ, ізолюючи ваші дані ШІ від операторів AWS. Другий принцип дає вам спосіб скасувати адміністративний доступ ваших власних користувачів і програмного забезпечення до ваших даних ШІ. AWS не тільки пропонує вам спосіб досягти цього, але ми також зробили його простим і практичним, інвестувавши в створення інтегрованого рішення між Анклави AWS Nitro та Служба управління ключами AWS (AWS KMS). За допомогою Nitro Enclave та AWS KMS ви можете шифрувати свої конфіденційні дані ШІ за допомогою ключів, якими володієте та керуєте, зберігати ці дані у вибраному вами місці та безпечно передавати зашифровані дані в ізольоване обчислювальне середовище для висновків. Протягом усього цього процесу конфіденційні дані AI шифруються та ізольовані від ваших власних користувачів і програмного забезпечення на вашому екземплярі EC2, і оператори AWS не можуть отримати доступ до цих даних. Варіанти використання, які виграли від цього потоку, включають запуск LLM логічний висновок в анклаві. До сьогоднішнього дня Nitro Enclave працюють лише в центральному процесорі, обмежуючи потенціал для більших генеративних моделей штучного інтелекту та більш складної обробки.
Ми оголосили про наші плани розширити цей наскрізний зашифрований потік Nitro, включивши першокласну інтеграцію з прискорювачами ML і графічним процесором, дотримуючись третього принципу. Ви зможете розшифровувати та завантажувати конфіденційні дані штучного інтелекту в прискорювач ML для обробки, забезпечуючи ізоляцію від власних операторів і перевіряючи автентичність програми, яка використовується для обробки даних штучного інтелекту. За допомогою системи Nitro ви можете криптографічно перевіряти свої програми на AWS KMS і розшифровувати дані лише після проходження необхідних перевірок. Це вдосконалення дозволяє AWS пропонувати наскрізне шифрування ваших даних, коли вони проходять через генеративне робоче навантаження ШІ.
Ми плануємо запропонувати цей наскрізний зашифрований потік у майбутній розробці AWS Трайніум2 as well as GPU instances based on NVIDIA’s upcoming Blackwell architecture, which both offer secure communications between devices, the third principle of Secure AI Infrastructure. AWS and NVIDIA are collaborating closely to bring a joint solution to market, including NVIDIA’s new NVIDIA Blackwell GPU 21 platform, which couples NVIDIA’s GB200 NVL72 solution with the Nitro System and EFA technologies to provide an industry-leading solution for securely building and deploying next-generation generative AI applications.
Просування майбутнього генеративної безпеки ШІ
Сьогодні десятки тисяч клієнтів використовують AWS для експериментів і впровадження трансформаційних генеративних програм штучного інтелекту у виробництво. Робочі навантаження Generative AI містять дуже цінні та конфіденційні дані, які потребують рівня захисту від ваших власних операторів і постачальника хмарних послуг. Клієнти, які використовують екземпляри EC2 на основі AWS Nitro, отримали такий рівень захисту та ізоляції від операторів AWS з 2017 року, коли ми запустили нашу інноваційну систему Nitro.
У AWS ми продовжуємо ці інновації, інвестуючи в створення продуктивних і доступних можливостей, щоб зробити нашим клієнтам практичним захист своїх генеративних робочих навантажень AI на трьох рівнях генеративного стеку AI, щоб ви могли зосередитися на тому, що ви робите. найкраще: створення та розширення використання генеративного штучного інтелекту на більшу кількість сфер. Вивчайте більше тут.
Про авторів
Ентоні Лігуорі — віце-президент AWS і видатний інженер EC2
Colm MacCárthaigh — віце-президент AWS і заслужений інженер для EC2
- Розповсюдження контенту та PR на основі SEO. Отримайте посилення сьогодні.
- PlatoData.Network Vertical Generative Ai. Додайте собі сили. Доступ тут.
- PlatoAiStream. Web3 Intelligence. Розширення знань. Доступ тут.
- ПлатонЕСГ. вуглець, CleanTech, Енергія, Навколишнє середовище, Сонячна, Поводження з відходами. Доступ тут.
- PlatoHealth. Розвідка про біотехнології та клінічні випробування. Доступ тут.
- джерело: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/
- : має
- :є
- : ні
- 100
- 2017
- 7
- 800
- a
- здатність
- Здатний
- МЕНЮ
- прискорювач
- прискорювачі
- доступ
- доступною
- Рахунки
- Achieve
- через
- доданий
- Додатковий
- адміністративний
- Переваги
- AI
- Дані ШІ
- Моделі AI
- ВСІ
- дозволяти
- дозволяє
- по
- Також
- Amazon
- Amazon EC2
- Amazon Web Services
- an
- та
- оголошений
- будь-який
- будь
- додаток
- застосування
- застосовується
- підхід
- архітектура
- ЕСТЬ
- області
- навколо
- штучний
- AS
- асоційований
- гарантія
- At
- справжність
- AWS
- Хребет
- бар
- заснований
- BE
- оскільки
- було
- імені
- буття
- Вірити
- КРАЩЕ
- між
- найбільший
- обидва
- приносити
- будувати
- Створюємо
- побудований
- вбудований
- бізнес
- але
- by
- CAN
- не може
- можливості
- здатний
- випадків
- канали
- Перевірки
- вибір
- тісно
- хмара
- код
- співробітництво
- Комунікація
- зв'язку
- комплекс
- дотримання
- У складі
- обчислення
- обчислення
- Занепокоєння
- конфіденційність
- містити
- зміст
- продовжувати
- триває
- контроль
- Core
- створювати
- критичний
- криптографічно
- клієнт
- Досвід клієнтів
- Клієнти
- Кібербезпека
- дані
- Підготовка даних
- день
- Розшифрувати
- поставляється
- постачає
- розгортання
- дизайн
- призначений
- прилади
- прямий
- Видатний
- розподілений
- розподілене навчання
- do
- під час
- кожен
- або
- Співробітник
- дозволяє
- дозволяє
- анклав
- шифрувати
- зашифрованих
- шифрування
- кінець в кінець
- примусове виконання
- інженер
- підвищувати
- Посилення
- Весь
- Навколишнє середовище
- середовищах
- Навіть
- очікувати
- досвід
- Досліди
- експеримент
- дослідити
- продовжити
- розширення
- зовні
- надзвичайно
- тканину
- риси
- фінансовий
- фінансова інформація
- Фірма
- Перший
- потік
- Потоки
- Сфокусувати
- для
- фонд
- від
- виконання
- майбутнє
- породжує
- генеративний
- Генеративний ШІ
- Давати
- земну кулю
- GPU
- Графічні процесори
- було
- апаратні засоби
- Мати
- має
- чути
- Високий
- дуже
- Як
- How To
- HTTP
- HTTPS
- здійснювати
- важливо
- удосконалювати
- in
- недоступний
- включати
- includes
- У тому числі
- неймовірно
- незалежний
- промисловості
- провідний в галузі
- інформація
- Інфраструктура
- оновлювати
- інновація
- інноваційний
- розуміння
- екземпляр
- інтегрований
- інтеграція
- цілісність
- в
- Invest
- інвестування
- інвестиції
- ізольований
- ізоляція
- IT
- ЙОГО
- спільна
- JPEG
- JPG
- ключ
- ключі
- Знати
- мова
- великий
- масштабний
- більше
- запущений
- шар
- шарів
- УЧИТЬСЯ
- вивчення
- вчиться
- рівень
- Життєвий цикл
- як
- обмежуючий
- зв'язку
- загрузка
- розташування
- машина
- навчання за допомогою машини
- made
- Підтримка
- зробити
- Робить
- управління
- ринок
- механізм
- пам'ять
- ML
- модель
- Моделі
- більше
- рухатися
- повинен
- необхідно
- Необхідність
- потреби
- мережу
- Нові
- наступне покоління
- Nitro
- немає
- Nvidia
- of
- пропонувати
- Пропозиції
- часто
- on
- ONE
- тільки
- працювати
- оперативний
- операції
- оператор
- Оператори
- Оптимізувати
- or
- організації
- Інше
- наші
- вихід
- над
- власний
- параметри
- Першорядний
- проходити
- штраф
- продуктивність
- людина
- персонал
- особисті дані
- план
- плани
- платформа
- plato
- Інформація про дані Платона
- PlatoData
- потенціал
- Практичний
- підготовка
- принцип
- Принципи
- пріоритет
- недоторканність приватного життя
- приватний
- процес
- Оброблено
- обробка
- Production
- продуктивність
- захист
- захищений
- захищає
- захист
- протокол
- забезпечувати
- Постачальник
- забезпечує
- забезпечення
- швидко
- підвищення
- отримано
- відноситься
- надійний
- решті
- віддалений
- видаляти
- представляти
- вимагати
- Обмеження
- revenue
- прогін
- біг
- захист
- масштабовані
- шкала
- другий
- безпечний
- безпечно
- забезпечення
- безпеку
- послати
- чутливий
- обслуговування
- Постачальник послуг
- Послуги
- Повинен
- з
- So
- Софтвер
- рішення
- спеціалізований
- стек
- залишатися
- зберігати
- просто
- такі
- система
- взяття
- Технології
- тензор
- Що
- Команда
- Майбутнє
- їх
- Їх
- самі
- Там.
- вони
- думати
- третій
- це
- ті
- тисячі
- три
- через
- по всьому
- до
- сьогодні
- інструменти
- топ
- поїзд
- Навчання
- переклад
- Перетворення
- перетворювальний
- перетворення
- Довіряйте
- несанкціонований
- безпрецедентний
- до
- Майбутні
- використання
- використовуваний
- користувачі
- використовує
- використання
- ПЕРЕВІР
- Цінний
- перевірено
- vp
- Уразливості
- шлях..
- we
- Web
- веб-сервіси
- ДОБРЕ
- Що
- коли
- Чи
- який
- в той час як
- чому
- волі
- з
- без
- Work
- лист
- Ти
- вашу
- зефірнет
- нуль