Một cách tiếp cận an toàn đối với AI sáng tạo với AWS | Dịch vụ web của Amazon

Trí tuệ nhân tạo sáng tạo (AI) đang thay đổi trải nghiệm của khách hàng trong các ngành trên toàn cầu. Khách hàng đang xây dựng các ứng dụng AI tổng quát bằng cách sử dụng mô hình ngôn ngữ lớn (LLM) và các mô hình nền tảng khác (FM), giúp nâng cao trải nghiệm của khách hàng, chuyển đổi hoạt động, cải thiện năng suất của nhân viên và tạo các kênh doanh thu mới.

FM và các ứng dụng được xây dựng xung quanh chúng thể hiện sự đầu tư cực kỳ có giá trị cho khách hàng của chúng tôi. Chúng thường được sử dụng với dữ liệu kinh doanh có độ nhạy cảm cao, như dữ liệu cá nhân, dữ liệu tuân thủ, dữ liệu hoạt động và thông tin tài chính để tối ưu hóa đầu ra của mô hình. Mối quan tâm lớn nhất mà chúng tôi nhận được từ khách hàng khi họ khám phá những lợi thế của AI tạo ra là cách bảo vệ dữ liệu và khoản đầu tư có độ nhạy cảm cao của họ. Vì dữ liệu và trọng lượng mô hình của họ cực kỳ có giá trị nên khách hàng yêu cầu họ phải luôn được bảo vệ, bảo mật và riêng tư, cho dù đó là từ tài khoản quản trị viên của chính họ, khách hàng của họ, các lỗ hổng trong phần mềm chạy trong môi trường của riêng họ hay thậm chí là từ nhà cung cấp dịch vụ đám mây của họ. truy cập.

Tại AWS, ưu tiên hàng đầu của chúng tôi là bảo vệ tính bảo mật và bảo mật cho khối lượng công việc của khách hàng. Chúng tôi nghĩ về tính bảo mật trên ba lớp của hệ thống AI tổng hợp của chúng tôi:

• Lớp dưới cùng – Cung cấp các công cụ để xây dựng và đào tạo LLM và các FM khác
• Lớp trung lưu – Cung cấp quyền truy cập vào tất cả các mô hình cùng với các công cụ bạn cần để xây dựng và mở rộng quy mô các ứng dụng AI tổng hợp
• Lớp trên cùng – Bao gồm các ứng dụng sử dụng LLM và các FM khác để giúp công việc không bị căng thẳng bằng cách viết và gỡ lỗi mã, tạo nội dung, rút ​​ra thông tin chi tiết và thực hiện hành động

Mỗi lớp đều quan trọng để làm cho AI tổng hợp có sức lan tỏa và biến đổi.

Với Hệ thống AWS Nitro, chúng tôi đã thay mặt khách hàng của mình đưa ra cải tiến chưa từng có. Hệ thống Nitro là xương sống điện toán vô song dành cho AWS, với cốt lõi là bảo mật và hiệu suất. Phần cứng chuyên dụng và chương trình cơ sở liên quan của nó được thiết kế để thực thi các hạn chế sao cho không ai, kể cả bất kỳ ai trong AWS, có thể truy cập khối lượng công việc hoặc dữ liệu chạy trên máy của bạn. Đám mây điện toán đàn hồi Amazon (Amazon EC2). Khách hàng đã được hưởng lợi từ tính bảo mật và cách ly này với người vận hành AWS trên tất cả các phiên bản EC2 dựa trên Nitro kể từ năm 2017.

Theo thiết kế, không có cơ chế nào cho bất kỳ nhân viên Amazon nào truy cập vào phiên bản Nitro EC2 mà khách hàng sử dụng để chạy khối lượng công việc của họ hoặc truy cập dữ liệu mà khách hàng gửi tới bộ tăng tốc máy học (ML) hoặc GPU. Biện pháp bảo vệ này áp dụng cho tất cả các phiên bản dựa trên Nitro, bao gồm cả các phiên bản có trình tăng tốc ML như Suy luận AWS và Đào tạo AWSvà các phiên bản có GPU như P4, P5, G5 và G6.

Hệ thống Nitro cho phép Bộ điều hợp vải đàn hồi (EFA), sử dụng giao thức truyền thông Gói dữ liệu đáng tin cậy có thể mở rộng (SRD) do AWS xây dựng để đào tạo phân tán trên quy mô lớn và đàn hồi trên quy mô đám mây, cho phép mạng duy nhất có khả năng Truy cập bộ nhớ trực tiếp từ xa (RDMA) luôn được mã hóa. Tất cả thông tin liên lạc qua EFA được mã hóa bằng Mã hóa VPC mà không phải chịu bất kỳ hình phạt hiệu suất nào.

Thiết kế của Hệ thống Nitro đã được được xác nhận bởi Tập đoàn NCC, một công ty an ninh mạng độc lập. AWS cung cấp mức độ bảo vệ cao cho khối lượng công việc của khách hàng và chúng tôi tin rằng đây là mức độ bảo mật và bảo mật mà khách hàng nên mong đợi từ nhà cung cấp đám mây của họ. Mức độ bảo vệ này quan trọng đến mức chúng tôi đã thêm nó vào Điều khoản dịch vụ của AWS để cung cấp sự đảm bảo bổ sung cho tất cả khách hàng của chúng tôi.

Đổi mới khối lượng công việc AI tổng hợp an toàn bằng cách sử dụng các khả năng bảo mật hàng đầu trong ngành của AWS

Ngay từ ngày đầu, cơ sở hạ tầng và dịch vụ AI của AWS đã tích hợp sẵn các tính năng bảo mật và quyền riêng tư để giúp bạn kiểm soát dữ liệu của mình. Khi khách hàng nhanh chóng triển khai AI tổng hợp trong tổ chức của họ, bạn cần biết rằng dữ liệu của mình đang được xử lý an toàn trong suốt vòng đời AI, bao gồm chuẩn bị, đào tạo và suy luận dữ liệu. Tính bảo mật của trọng số mô hình—các tham số mà mô hình học được trong quá trình đào tạo rất quan trọng đối với khả năng đưa ra dự đoán của mô hình—là điều tối quan trọng để bảo vệ dữ liệu của bạn và duy trì tính toàn vẹn của mô hình.

Đây là lý do tại sao điều quan trọng là AWS phải tiếp tục đổi mới thay mặt cho khách hàng của mình để nâng cao tiêu chuẩn bảo mật trên từng lớp của hệ thống AI tổng hợp. Để làm được điều này, chúng tôi tin rằng bạn phải tích hợp tính bảo mật và bảo mật trên từng lớp của ngăn xếp AI tổng hợp. Bạn cần có khả năng bảo mật cơ sở hạ tầng để đào tạo LLM và các FM khác, xây dựng an toàn bằng các công cụ để chạy LLM và các FM khác, đồng thời chạy các ứng dụng sử dụng FM có tính năng bảo mật và quyền riêng tư tích hợp mà bạn có thể tin cậy.

Tại AWS, việc bảo mật cơ sở hạ tầng AI có nghĩa là không có quyền truy cập vào dữ liệu AI nhạy cảm, chẳng hạn như trọng lượng mô hình AI và dữ liệu được xử lý bằng các mô hình đó, bởi bất kỳ người không được ủy quyền nào, tại nhà điều hành cơ sở hạ tầng hoặc tại khách hàng. Nó bao gồm ba nguyên tắc chính:

1. Cách ly hoàn toàn dữ liệu AI khỏi nhà điều hành cơ sở hạ tầng – Nhà điều hành cơ sở hạ tầng không được phép truy cập nội dung khách hàng và dữ liệu AI, chẳng hạn như trọng lượng mô hình AI và dữ liệu được xử lý bằng mô hình.
2. Khả năng khách hàng có thể tách biệt dữ liệu AI khỏi chính họ – Cơ sở hạ tầng phải cung cấp cơ chế cho phép tải trọng lượng và dữ liệu của mô hình vào phần cứng, trong khi vẫn tách biệt và không thể truy cập được từ người dùng và phần mềm của chính khách hàng.
3. Cơ sở hạ tầng thông tin liên lạc được bảo vệ – Giao tiếp giữa các thiết bị trong cơ sở hạ tầng máy gia tốc ML phải được bảo vệ. Tất cả các liên kết có thể truy cập bên ngoài giữa các thiết bị phải được mã hóa.

Hệ thống Nitro đáp ứng nguyên tắc đầu tiên của Cơ sở hạ tầng AI an toàn bằng cách tách biệt dữ liệu AI của bạn khỏi các nhà khai thác AWS. Nguyên tắc thứ hai cung cấp cho bạn cách xóa quyền truy cập quản trị của người dùng và phần mềm vào dữ liệu AI của bạn. AWS không chỉ cung cấp cho bạn cách để đạt được điều đó mà chúng tôi còn làm cho điều đó trở nên đơn giản và thiết thực bằng cách đầu tư xây dựng giải pháp tích hợp giữa Vỏ bọc AWS Nitro và Dịch vụ quản lý khóa AWS (AWS KMS). Với Nitro Enclaves và AWS KMS, bạn có thể mã hóa dữ liệu AI nhạy cảm của mình bằng các khóa mà bạn sở hữu và kiểm soát, lưu trữ dữ liệu đó ở vị trí bạn chọn và chuyển dữ liệu được mã hóa sang môi trường điện toán biệt lập để suy luận một cách an toàn. Trong toàn bộ quá trình này, dữ liệu AI nhạy cảm sẽ được mã hóa và tách biệt khỏi người dùng cũng như phần mềm của bạn trên phiên bản EC2 và người vận hành AWS không thể truy cập dữ liệu này. Các trường hợp sử dụng được hưởng lợi từ quy trình này bao gồm việc chạy suy luận LLM trong một khu vực khép kín. Cho đến ngày nay, Nitro Enclaves chỉ hoạt động trong CPU, hạn chế tiềm năng cho các mô hình AI tổng hợp lớn hơn và quá trình xử lý phức tạp hơn.

Chúng tôi đã công bố kế hoạch mở rộng luồng mã hóa đầu cuối Nitro này để bao gồm khả năng tích hợp hạng nhất với bộ tăng tốc ML và GPU, đáp ứng nguyên tắc thứ ba. Bạn sẽ có thể giải mã và tải dữ liệu AI nhạy cảm vào máy gia tốc ML để xử lý đồng thời cách ly với các nhà khai thác của chính bạn và xác minh tính xác thực của ứng dụng được sử dụng để xử lý dữ liệu AI. Thông qua Hệ thống Nitro, bạn có thể xác thực bằng mật mã ứng dụng của mình với AWS KMS và chỉ giải mã dữ liệu khi vượt qua các bước kiểm tra cần thiết. Cải tiến này cho phép AWS cung cấp mã hóa đầu cuối cho dữ liệu của bạn khi dữ liệu được truyền qua khối lượng công việc AI tổng hợp.

Chúng tôi dự định cung cấp luồng mã hóa hai đầu này trong luồng được thiết kế AWS sắp tới Trainium2 cũng như các phiên bản GPU dựa trên kiến ​​trúc Blackwell sắp ra mắt của NVIDIA, cả hai đều cung cấp khả năng liên lạc an toàn giữa các thiết bị, nguyên tắc thứ ba của Cơ sở hạ tầng AI an toàn. AWS và NVIDIA đang hợp tác chặt chẽ để đưa một giải pháp chung ra thị trường, bao gồm nền tảng NVIDIA Blackwell GPU 21 mới của NVIDIA, kết hợp giải pháp GB200 NVL72 của NVIDIA với các công nghệ Nitro System và EFA để cung cấp giải pháp hàng đầu trong ngành cho việc xây dựng và triển khai tiếp theo một cách an toàn- tạo ra các ứng dụng AI sáng tạo.

Thúc đẩy tương lai của bảo mật AI tổng quát

Ngày nay, hàng chục nghìn khách hàng đang sử dụng AWS để thử nghiệm và đưa các ứng dụng AI có khả năng biến đổi mạnh mẽ vào sản xuất. Khối lượng công việc AI tổng hợp chứa dữ liệu nhạy cảm và có giá trị cao cần mức độ bảo vệ từ các nhà khai thác của chính bạn và nhà cung cấp dịch vụ đám mây. Khách hàng sử dụng phiên bản EC2 dựa trên AWS Nitro đã nhận được mức độ bảo vệ và cách ly này khỏi các nhà khai thác AWS kể từ năm 2017, khi chúng tôi ra mắt Hệ thống Nitro cải tiến của mình.

Tại AWS, chúng tôi đang tiếp tục sự đổi mới đó khi chúng tôi đầu tư vào việc xây dựng các khả năng có hiệu suất và khả năng truy cập để giúp khách hàng của chúng tôi đảm bảo khối lượng công việc AI tổng hợp của họ trên ba lớp của ngăn xếp AI tổng hợp, để bạn có thể tập trung vào những gì mình làm. tốt nhất: xây dựng và mở rộng việc sử dụng AI tổng quát sang nhiều lĩnh vực hơn. Tìm hiểu thêm tại đây.

---

Giới thiệu về tác giả

Anthony Liguori là Phó chủ tịch AWS và Kỹ sư xuất sắc của EC2

Colm MacCárthaigh là Phó chủ tịch AWS và Kỹ sư xuất sắc của EC2

• Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
• PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
• PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
• Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
• PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
• nguồn: https://aws.amazon.com/blogs/machine-learning/a-secure-approach-to-generative-ai-with-aws/