AWS를 통한 생성적 AI에 대한 안전한 접근 방식 | 아마존 웹 서비스

생성 인공 지능 (AI)는 전 세계 산업의 고객 경험을 변화시키고 있습니다. 고객은 LLM(대형 언어 모델) 및 FM(기타 기반 모델)을 사용하여 생성적 AI 애플리케이션을 구축하고 있습니다. 이를 통해 고객 경험을 향상하고 운영을 혁신하며 직원 생산성을 향상하고 새로운 수익 채널을 창출할 수 있습니다.

FM과 이를 기반으로 구축된 애플리케이션은 고객에게 매우 귀중한 투자입니다. 모델의 출력을 최적화하기 위해 개인 데이터, 규정 준수 데이터, 운영 데이터, 재무 정보 등 매우 민감한 비즈니스 데이터와 함께 사용되는 경우가 많습니다. 고객이 생성 AI의 장점을 탐색하면서 듣는 가장 큰 우려 사항은 매우 민감한 데이터와 투자를 보호하는 방법입니다. 데이터와 모델의 가중치는 엄청나게 중요하기 때문에 고객은 자신의 관리자 계정, 고객, 자체 환경에서 실행되는 소프트웨어의 취약성, 클라우드 서비스 제공업체의 보안, 보안 및 비공개 상태를 유지하기를 원합니다. 입장.

AWS에서는 고객 워크로드의 보안과 기밀성을 보호하는 것이 최우선 과제입니다. 우리는 생성 AI 스택의 세 가지 계층에 걸쳐 보안에 대해 생각합니다.

• 하단 레이어 – LLM 및 기타 FM 구축 및 교육을 위한 도구 제공
• 중간층 – 생성적 AI 애플리케이션을 구축하고 확장하는 데 필요한 도구와 함께 모든 모델에 대한 액세스를 제공합니다.
• 상단 레이어 – LLM 및 기타 FM을 사용하여 코드 작성 및 디버깅, 콘텐츠 생성, 통찰력 도출 및 조치 수행을 통해 스트레스 없는 작업을 수행하는 애플리케이션이 포함됩니다.

각 계층은 생성 AI를 널리 보급하고 혁신적으로 만드는 데 중요합니다.

와 더불어 AWS Nitro 시스템, 우리는 고객을 대신하여 최초의 혁신을 제공했습니다. Nitro 시스템은 보안과 성능을 핵심으로 하는 최고의 AWS 컴퓨팅 백본입니다. 특수 하드웨어 및 관련 펌웨어는 AWS의 모든 사람을 포함하여 어느 누구도 워크로드나 실행 중인 데이터에 액세스할 수 없도록 제한을 적용하도록 설계되었습니다. 아마존 엘라스틱 컴퓨트 클라우드 (Amazon EC2) 인스턴스. 고객은 2년부터 모든 Nitro 기반 EC2017 인스턴스에 대해 AWS 운영자로부터 이러한 기밀성과 격리를 통해 이점을 누려왔습니다.

설계상 Amazon 직원이 고객이 워크로드를 실행하는 데 사용하는 Nitro EC2 인스턴스에 액세스하거나 고객이 기계 학습(ML) 가속기 또는 GPU로 전송하는 데이터에 액세스할 수 있는 메커니즘이 없습니다. 이 보호는 다음과 같은 ML 가속기가 있는 인스턴스를 포함하여 모든 Nitro 기반 인스턴스에 적용됩니다. AWS 인 페렌 시아 및 AWS 트레이닝및 P4, P5, G5, G6와 같은 GPU가 있는 인스턴스입니다.

니트로 시스템을 사용하면 탄성 직물 어댑터 (EFA)이는 클라우드 규모의 탄력적이고 대규모 분산 교육을 위해 AWS에서 구축한 AWS SRD(Scalable Reliable Datagram) 통신 프로토콜을 사용하여 항상 암호화되는 RDMA(Remote Direct Memory Access) 가능 네트워크를 활성화합니다. EFA를 통한 모든 통신은 암호화됩니다. VPC 암호화 성능 저하 없이.

니트로 시스템의 디자인은 다음과 같습니다. NCC 그룹의 검증을 받은 제품, 독립적인 사이버 보안 회사입니다. AWS는 고객 워크로드에 대해 높은 수준의 보호를 제공하며, 이것이 고객이 클라우드 공급자에게 기대해야 하는 보안 및 기밀성 수준이라고 믿습니다. 이 수준의 보호는 매우 중요하므로 우리는 이를 추가했습니다. AWS 서비스 약관 모든 고객에게 추가적인 보증을 제공합니다.

AWS 업계 최고의 보안 기능을 사용하여 안전한 생성 AI 워크로드를 혁신합니다.

AWS AI 인프라 및 서비스에는 처음부터 사용자가 데이터를 제어할 수 있도록 보안 및 개인 정보 보호 기능이 내장되어 있습니다. 고객이 조직에서 생성적 AI를 구현하기 위해 빠르게 이동함에 따라 데이터 준비, 훈련, 추론을 포함하여 AI 수명주기 전반에 걸쳐 데이터가 안전하게 처리되고 있다는 것을 알아야 합니다. 모델 가중치(모델이 훈련 중에 학습하는 매개변수로서 예측 능력에 중요한 매개변수)의 보안은 데이터를 보호하고 모델 무결성을 유지하는 데 매우 중요합니다.

이것이 바로 AWS가 고객을 대신하여 계속해서 혁신하여 생성 AI 스택의 각 계층에 걸쳐 보안 기준을 높이는 것이 중요한 이유입니다. 이를 위해서는 생성 AI 스택의 각 계층에 보안과 기밀성이 내장되어 있어야 한다고 믿습니다. LLM 및 기타 FM을 교육하기 위한 인프라를 보호하고, LLM 및 기타 FM을 실행하는 도구로 안전하게 구축하고, 신뢰할 수 있는 보안 및 개인 정보 보호 기능이 내장된 FM을 사용하는 애플리케이션을 실행할 수 있어야 합니다.

AWS에서 AI 인프라를 보호한다는 것은 인프라 운영자나 고객에서 승인되지 않은 사람이 AI 모델 가중치 및 해당 모델로 처리된 데이터와 같은 민감한 AI 데이터에 대한 액세스가 전혀 없음을 의미합니다. 이는 세 가지 핵심 원칙으로 구성됩니다.

1. 인프라 운영자로부터 AI 데이터를 완벽하게 격리 – 인프라 운영자는 AI 모델 가중치 및 모델로 처리된 데이터와 같은 고객 콘텐츠 및 AI 데이터에 액세스할 수 있는 능력이 없어야 합니다.
2. 고객이 AI 데이터를 자신과 분리할 수 있는 능력 – 인프라는 모델 가중치와 데이터를 하드웨어에 로드하는 동시에 고객의 사용자 및 소프트웨어로부터 격리되고 액세스할 수 없는 메커니즘을 제공해야 합니다.
3. 보호된 인프라 통신 – ML 가속기 인프라의 장치 간 통신은 보호되어야 합니다. 장치 간 외부에서 액세스 가능한 모든 링크는 암호화되어야 합니다.

Nitro 시스템은 AI 데이터를 AWS 운영자로부터 격리하여 보안 AI 인프라의 첫 번째 원칙을 충족합니다. 두 번째 원칙은 AI 데이터에 대한 자체 사용자 및 소프트웨어의 관리 액세스를 제거하는 방법을 제공합니다. AWS는 이를 달성할 수 있는 방법을 제공할 뿐만 아니라 서로 간의 통합 솔루션 구축에 투자하여 이를 간단하고 실용적으로 만들었습니다. AWS Nitro 엔클레이브 및 AWS 키 관리 서비스 (AWS KMS). Nitro Enclaves 및 AWS KMS를 사용하면 자신이 소유하고 제어하는 ​​키를 사용하여 민감한 AI 데이터를 암호화하고, 해당 데이터를 원하는 위치에 저장하고, 추론을 위해 암호화된 데이터를 격리된 컴퓨팅 환경으로 안전하게 전송할 수 있습니다. 이 전체 프로세스에서 중요한 AI 데이터는 암호화되어 EC2 인스턴스의 자체 사용자 및 소프트웨어로부터 격리되며, AWS 운영자는 이 데이터에 액세스할 수 없습니다. 이 흐름의 이점을 얻은 사용 사례에는 실행이 포함됩니다. LLM 추론 엔클레이브에서. 현재까지 Nitro Enclave는 CPU에서만 작동하므로 더 큰 생성 AI 모델과 더 복잡한 처리의 가능성이 제한됩니다.

우리는 이 Nitro 엔드투엔드 암호화 흐름을 확장하여 ML 가속기 및 GPU와의 최고 수준의 통합을 포함하여 세 번째 원칙을 충족할 계획을 발표했습니다. 중요한 AI 데이터를 해독하고 처리를 위해 ML 가속기에 로드하는 동시에 자체 운영자로부터 격리를 제공하고 AI 데이터 처리에 사용되는 애플리케이션의 신뢰성을 검증할 수 있습니다. Nitro 시스템을 통해 AWS KMS에 대한 애플리케이션을 암호화 방식으로 검증하고 필요한 검사를 통과한 경우에만 데이터를 해독할 수 있습니다. 이러한 향상된 기능을 통해 AWS는 생성적 AI 워크로드를 통과하는 데이터에 대해 엔드투엔드 암호화를 제공할 수 있습니다.

우리는 다가오는 AWS 설계에서 이 엔드투엔드 암호화 흐름을 제공할 계획입니다. 트레이닝니움2 또한 Secure AI 인프라의 세 번째 원칙인 장치 간 보안 통신을 제공하는 NVIDIA의 곧 출시될 Blackwell 아키텍처를 기반으로 하는 GPU 인스턴스도 있습니다. AWS와 NVIDIA는 NVIDIA의 새로운 NVIDIA Blackwell GPU 21 플랫폼을 포함한 공동 솔루션을 시장에 출시하기 위해 긴밀히 협력하고 있습니다. 이 플랫폼은 NVIDIA의 GB200 NVL72 솔루션과 Nitro 시스템 및 EFA 기술을 결합하여 차세대 솔루션을 안전하게 구축하고 배포하기 위한 업계 최고의 솔루션을 제공합니다. 세대 생성 AI 애플리케이션.

생성적 AI 보안의 미래 발전

현재 수만 명의 고객이 AWS를 사용하여 혁신적인 생성 AI 애플리케이션을 실험하고 프로덕션으로 전환하고 있습니다. 생성적 AI 워크로드에는 자체 운영자 및 클라우드 서비스 제공업체의 보호 수준이 필요한 매우 가치 있고 민감한 데이터가 포함되어 있습니다. AWS Nitro 기반 EC2 인스턴스를 사용하는 고객은 혁신적인 Nitro 시스템을 출시한 2017년부터 AWS 운영자로부터 이러한 수준의 보호 및 격리를 받아 왔습니다.

AWS에서는 고객이 3개 계층의 생성 AI 스택에서 생성 AI 워크로드를 보호할 수 있도록 실용적이고 액세스 가능한 기능을 구축하는 데 투자하면서 이러한 혁신을 계속하고 있습니다. 이를 통해 고객은 업무에 집중할 수 있습니다. 최고: 생성 AI의 사용을 더 많은 영역으로 구축하고 확장합니다. 더 알아보기 여기에서 지금 확인해 보세요..

저자 소개

Anthony Liguori는 AWS VP이자 EC2의 저명한 엔지니어입니다.

Colm MacCárthaigh는 AWS VP이자 EC2의 저명한 엔지니어입니다.

• SEO 기반 콘텐츠 및 PR 배포. 오늘 증폭하십시오.
• PlatoData.Network 수직 생성 Ai. 자신에게 권한을 부여하십시오. 여기에서 액세스하십시오.
• PlatoAiStream. 웹3 인텔리전스. 지식 증폭. 여기에서 액세스하십시오.
• 플라톤ESG. 탄소, 클린테크, 에너지, 환경, 태양광, 폐기물 관리. 여기에서 액세스하십시오.
• PlatoHealth. 생명 공학 및 임상 시험 인텔리전스. 여기에서 액세스하십시오.
• 출처: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/