nền tảng Amazon là một dịch vụ được quản lý hoàn toàn do AWS cung cấp nhằm cung cấp cho các nhà phát triển quyền truy cập vào mô hình nền tảng (FM) và các công cụ để tùy chỉnh chúng cho các ứng dụng cụ thể. Nó cho phép các nhà phát triển xây dựng và mở rộng quy mô các ứng dụng AI tổng quát bằng cách sử dụng FM thông qua API mà không cần quản lý cơ sở hạ tầng. Bạn có thể chọn từ nhiều FM khác nhau từ Amazon và các công ty khởi nghiệp AI hàng đầu như AI21 Labs, Anthropic, Cohere và Stability AI để tìm ra mô hình phù hợp nhất cho trường hợp sử dụng của bạn. Với trải nghiệm Amazon Bedrock serverless, bạn có thể nhanh chóng bắt đầu, dễ dàng thử nghiệm FM, tùy chỉnh chúng một cách riêng tư bằng dữ liệu của riêng bạn, đồng thời tích hợp và triển khai chúng một cách liền mạch vào ứng dụng của bạn bằng cách sử dụng các công cụ và khả năng của AWS.
Khách hàng đang xây dựng các ứng dụng AI có tính sáng tạo bằng cách sử dụng API Amazon Bedrock bằng dữ liệu độc quyền của riêng họ. Khi truy cập API Amazon Bedrock, khách hàng đang tìm kiếm cơ chế thiết lập chu vi dữ liệu mà không để lộ dữ liệu của họ ra Internet để họ có thể giảm thiểu các mối đe dọa tiềm ẩn khi tiếp xúc với Internet. Điểm cuối Amazon Bedrock VPC được hỗ trợ bởi Liên kết riêng AWS cho phép bạn thiết lập kết nối riêng tư giữa VPC trong tài khoản của bạn và tài khoản dịch vụ Amazon Bedrock. Nó cho phép các phiên bản VPC giao tiếp với các tài nguyên dịch vụ mà không cần địa chỉ IP công cộng.
Trong bài đăng này, chúng tôi trình bày cách thiết lập quyền truy cập riêng tư trên tài khoản AWS của bạn để truy cập API Amazon Bedrock qua Điểm cuối VPC được hỗ trợ bởi PrivateLink để giúp bạn xây dựng các ứng dụng AI tổng hợp một cách an toàn bằng dữ liệu của riêng bạn.
Tổng quan về giải pháp
Bạn có thể sử dụng AI tổng hợp để phát triển nhiều ứng dụng đa dạng, chẳng hạn như tóm tắt văn bản, kiểm duyệt nội dung và các khả năng khác. Khi xây dựng các ứng dụng AI tổng quát như vậy bằng cách sử dụng FM hoặc mô hình cơ sở, khách hàng muốn tạo phản hồi mà không cần truy cập Internet công cộng hoặc dựa trên dữ liệu độc quyền có thể nằm trong cơ sở dữ liệu doanh nghiệp của họ.
Trong sơ đồ sau, chúng tôi mô tả kiến trúc để thiết lập cơ sở hạ tầng nhằm đọc dữ liệu độc quyền của bạn nằm trong Dịch vụ cơ sở dữ liệu quan hệ của Amazon (Amazon RDS) và bổ sung thông tin sản phẩm cho yêu cầu API Amazon Bedrock khi trả lời các truy vấn liên quan đến sản phẩm từ ứng dụng AI tổng hợp của bạn. Mặc dù chúng tôi sử dụng Amazon RDS trong sơ đồ này nhằm mục đích minh họa nhưng bạn có thể kiểm tra toàn bộ quyền truy cập riêng tư của API Amazon Bedrock bằng cách sử dụng hướng dẫn được cung cấp trong bài đăng này.
Các bước quy trình làm việc như sau:
- AWS Lambda đang chạy trong mạng con VPC riêng tư của bạn sẽ nhận được yêu cầu nhanh chóng từ ứng dụng AI tổng hợp.
- Lambda thực hiện lệnh gọi đến cơ sở dữ liệu RDS độc quyền và tăng cường bối cảnh truy vấn nhanh chóng (ví dụ: thêm thông tin sản phẩm) và gọi API Amazon Bedrock với yêu cầu truy vấn tăng cường.
- Lệnh gọi API được định tuyến đến điểm cuối Amazon Bedrock VPC được liên kết với chính sách điểm cuối VPC với Cho phép quyền đối với API Amazon Bedrock.
- Điểm cuối API dịch vụ Amazon Bedrock nhận yêu cầu API qua PrivateLink mà không cần truy cập Internet công cộng.
- Bạn có thể thay đổi chính sách điểm cuối của Amazon Bedrock VPC thành Từ chối quyền để xác thực rằng lệnh gọi API Amazon Bedrock bị từ chối.
- Bạn cũng có thể truy cập riêng tư API Amazon Bedrock qua điểm cuối VPC từ mạng công ty của mình thông qua Kết nối trực tiếp AWS cổng.
Điều kiện tiên quyết
Trước khi bắt đầu, hãy đảm bảo bạn có các điều kiện tiên quyết sau:
- An Tài khoản AWS
- An Quản lý truy cập và nhận dạng AWS (IAM) vai trò liên kết có quyền truy cập để thực hiện những việc sau:
- Tạo, chỉnh sửa, xem và xóa tài nguyên mạng VPC
- Tạo, chỉnh sửa, xem và xóa các hàm Lambda
- Tạo, chỉnh sửa, xem và xóa vai trò và chính sách IAM
- Liệt kê các mô hình nền tảng và gọi mô hình nền tảng Amazon Bedrock
- Đối với bài đăng này, chúng tôi sử dụng
us-east-1
Khu vực - Yêu cầu truy cập mô hình nền tảng thông qua bảng điều khiển Amazon Bedrock
Thiết lập cơ sở hạ tầng truy cập riêng
Trong phần này, chúng tôi thiết lập cơ sở hạ tầng như VPC, mạng con riêng tư, nhóm bảo mật và chức năng Lambda bằng cách sử dụng Hình thành đám mây AWS bản mẫu.
Sử dụng những thứ sau mẫu để tạo ra ngăn xếp cơ sở hạ tầng Bedrock-GenAI-Stack
trong tài khoản AWS của bạn.
Mẫu CloudFormation thay mặt bạn tạo các tài nguyên sau:
- Một VPC có hai mạng con riêng trong các Vùng sẵn sàng riêng biệt
- Nhóm bảo mật và bảng định tuyến
- Vai trò và chính sách IAM để Lambda, Amazon Bedrock và Đám mây điện toán đàn hồi Amazon (Amazon EC2)
Thiết lập điểm cuối VPC cho Amazon Bedrock
Trong phần này, chúng tôi sử dụng Đám mây riêng ảo Amazon (Amazon VPC) để thiết lập điểm cuối VPC cho Amazon Bedrock nhằm hỗ trợ kết nối riêng tư từ VPC của bạn đến Amazon Bedrock.
- Trên bảng điều khiển Amazon VPC, bên dưới Đám mây riêng ảo trong ngăn điều hướng, chọn Điểm cuối.
- Chọn Tạo điểm cuối.
- Trong Thẻ tên, đi vào
bedrock-vpce
. - Theo DỊCH VỤ, tìm kiếm bedrock-runtime và chọn
com.amazonaws.<region>.bedrock-runtime
. - Trong VPC, chỉ định VPC
Bedrock-GenAI-Project-vpc
mà bạn đã tạo thông qua ngăn xếp CloudFormation ở phần trước. - Trong tạp chí Mạng con phần và chọn Vùng sẵn sàng và chọn ID mạng con tương ứng từ menu thả xuống.
- Trong Nhóm bảo mật, chọn nhóm bảo mật có tên nhóm
Bedrock-GenAI-Stack-VPCEndpointSecurityGroup-
và mô tảAllow TLS for VPC Endpoint
.
Nhóm bảo mật hoạt động như một tường lửa ảo cho phiên bản của bạn để kiểm soát lưu lượng truy cập vào và ra. Lưu ý rằng nhóm bảo mật điểm cuối VPC này chỉ cho phép lưu lượng truy cập bắt nguồn từ nhóm bảo mật được gắn với mạng con riêng tư VPC của bạn, bổ sung thêm một lớp bảo vệ.
- Chọn Tạo điểm cuối.
- Trong tạp chí Chính sách phần, chọn Tuỳ chỉnh và nhập chính sách đặc quyền tối thiểu sau đây để đảm bảo chỉ cho phép một số hành động nhất định trên tài nguyên mô hình nền tảng đã chỉ định,
arn:aws:bedrock:*::foundation-model/anthropic.claude-instant-v1
cho một hiệu trưởng nhất định (chẳng hạn như vai trò IAM của hàm Lambda).
Có thể mất tới 2 phút cho đến khi điểm cuối giao diện được tạo và trạng thái thay đổi thành Có sẵn. Bạn có thể làm mới trang để kiểm tra trạng thái mới nhất.
Thiết lập chức năng Lambda trên mạng con VPC riêng tư
Hoàn thành các bước sau để đặt cấu hình hàm Lambda:
- Trên bảng điều khiển Lambda, chọn Chức năng trong khung điều hướng.
- Chọn chức năng
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - trên Cấu hình tab, chọn Quyền ở khung bên trái.
- Theo Vai trò thực thi¸ chọn liên kết cho vai trò
gen-ai-lambda-stack-BedrockTestLambdaFunctionRole-XXXXXXXXXXXX
.
Bạn được chuyển hướng đến bảng điều khiển IAM.
- Trong tạp chí Chính sách quyền phần, chọn Thêm quyền Và chọn Tạo chính sách nội tuyến.
- trên JSON tab, sửa đổi chính sách như sau:
- Chọn Sau.
- Trong Tên chính sách, đi vào
enivpce-policy
. - Chọn Tạo chính sách.
- Thêm chính sách nội tuyến sau (cung cấp điểm cuối VPC nguồn của bạn) để hạn chế quyền truy cập Lambda vào API Amazon Bedrock chỉ thông qua điểm cuối VPC:
- Trên trang chức năng Lambda, trên Cấu hình tab, chọn VPC ở khung bên trái, sau đó chọn Chỉnh sửa.
- Trong VPC, chọn
Bedrock-GenAI-Project-vpc
. - Trong Mạng con, chọn mạng con riêng tư.
- Trong Nhóm bảo mật, chọn
gen-ai-lambda-stack-SecurityGroup-
(nhóm bảo mật cho khối lượng công việc Amazon Bedrock trong mạng con riêng tư). - Chọn Lưu.
Kiểm tra kiểm soát truy cập riêng tư
Giờ đây, bạn có thể kiểm tra các biện pháp kiểm soát quyền truy cập riêng tư (API của Amazon Bedrock trên các điểm cuối VPC).
- Trên bảng điều khiển Lambda, chọn Chức năng trong khung điều hướng.
- Chọn chức năng
gen-ai-lambda-stack-BedrockTestLambdaFunction-XXXXXXXXXXXX
. - trên Mã tab, chọn Thử nghiệm.
Bạn sẽ thấy phản hồi sau từ lệnh gọi API Amazon Bedrock (Trạng thái: Thành công).
- Để từ chối quyền truy cập vào API Amazon Bedrock qua điểm cuối VPC, hãy điều hướng đến bảng điều khiển Amazon VPC.
- Theo Đám mây riêng ảo trong ngăn điều hướng, chọn Điểm cuối.
- Chọn chính sách của bạn và điều hướng đến tab chính sách.
Hiện tại, chính sách điểm cuối VPC được đặt thành Allow
.
- Để từ chối quyền truy cập, hãy chọn Chỉnh sửa Chính sách.
- Thay đổi
Allow
đếnDeny
Và chọn Lưu.
Có thể mất tối đa 2 phút để chính sách cập nhật điểm cuối VPC.
- Quay lại trang hàm Lambda và trên Mã tab, chọn Thử nghiệm.
Như minh họa trong ảnh chụp màn hình sau, yêu cầu truy cập vào Amazon Bedrock qua điểm cuối VPC đã bị từ chối (Trạng thái: Không thành công).
Thông qua quá trình thử nghiệm này, chúng tôi đã chứng minh được lưu lượng truy cập từ VPC của bạn đến điểm cuối API Amazon Bedrock truyền qua kết nối PrivateLink chứ không phải qua kết nối Internet như thế nào.
Làm sạch
Hãy thực hiện theo các bước sau để tránh phát sinh các khoản phí trong tương lai:
Kết luận
Trong bài đăng này, chúng tôi đã trình bày cách thiết lập và vận hành kết nối riêng giữa khối lượng công việc AI tổng hợp được triển khai trên VPC khách hàng của bạn và Amazon Bedrock bằng cách sử dụng điểm cuối VPC giao diện do PrivateLink cung cấp. Khi sử dụng kiến trúc được thảo luận trong bài đăng này, lưu lượng giữa VPC khách hàng của bạn và Amazon Bedrock sẽ không rời khỏi mạng Amazon, đảm bảo dữ liệu của bạn không bị lộ ra Internet công cộng và từ đó giúp đáp ứng các yêu cầu tuân thủ của bạn.
Bước tiếp theo, hãy thử giải pháp trong tài khoản của bạn và chia sẻ phản hồi của bạn.
Về các tác giả
Ram Vittal là Kiến trúc sư giải pháp ML chính tại AWS. Ông có hơn 3 thập kỷ kinh nghiệm kiến trúc và xây dựng các ứng dụng phân tán, kết hợp và đám mây. Anh ấy đam mê xây dựng các giải pháp dữ liệu lớn và AI/ML an toàn và có thể mở rộng để hỗ trợ khách hàng doanh nghiệp trong hành trình áp dụng và tối ưu hóa đám mây nhằm cải thiện kết quả kinh doanh của họ. Trong thời gian rảnh rỗi, anh ấy lái mô tô và đi dạo cùng chú chó Sheepadoodle 3 tuổi của mình!
Ray Khorsandi là chuyên gia AI/ML tại AWS, hỗ trợ khách hàng chiến lược bằng các biện pháp thực hành tốt nhất về AI/ML. Với bằng ThS. và tiến sĩ. về Kỹ thuật Điện và Khoa học Máy tính, ông lãnh đạo các doanh nghiệp xây dựng các giải pháp dữ liệu lớn và AI/ML an toàn, có thể mở rộng để tối ưu hóa việc áp dụng đám mây của họ. Niềm đam mê của anh ấy bao gồm thị giác máy tính, NLP, AI tổng quát và MLOps. Ray thích chơi bóng đá và dành thời gian vui vẻ cho gia đình.
Micheal Daniels là Chuyên gia AI/ML tại AWS. Chuyên môn của ông nằm trong việc xây dựng và dẫn dắt các giải pháp AI/ML cũng như AI tổng quát cho các vấn đề kinh doanh phức tạp và đầy thách thức, được nâng cao nhờ bằng Tiến sĩ của ông. từ Đại học. của Texas và bằng Thạc sĩ của ông. bằng chuyên ngành Khoa học Máy tính về Học máy của Viện Công nghệ Georgia. Anh ấy xuất sắc trong việc áp dụng các công nghệ đám mây tiên tiến để đổi mới, truyền cảm hứng và chuyển đổi các tổ chức đầu ngành, đồng thời giao tiếp hiệu quả với các bên liên quan ở mọi cấp độ hoặc quy mô. Trong thời gian rảnh rỗi, bạn có thể bắt gặp Michael trượt tuyết hoặc trượt ván trên núi.
- Phân phối nội dung và PR được hỗ trợ bởi SEO. Được khuếch đại ngay hôm nay.
- PlatoData.Network Vertical Generative Ai. Trao quyền cho chính mình. Truy cập Tại đây.
- PlatoAiStream. Thông minh Web3. Kiến thức khuếch đại. Truy cập Tại đây.
- Trung tâmESG. Than đá, công nghệ sạch, Năng lượng, Môi trường Hệ mặt trời, Quản lý chất thải. Truy cập Tại đây.
- PlatoSức khỏe. Tình báo thử nghiệm lâm sàng và công nghệ sinh học. Truy cập Tại đây.
- nguồn: https://aws.amazon.com/blogs/machine-learning/use-aws-privatelink-to-set-up-private-access-to-amazon-bedrock/
- : có
- :là
- :không phải
- $ LÊN
- 1
- 100
- 13
- 16
- 225
- 7
- 8
- 9
- 937
- a
- Giới thiệu
- truy cập
- truy cập
- Tài khoản
- Hoạt động
- hành động
- hành vi
- thêm
- địa chỉ
- Nhận con nuôi
- AI
- AI / ML
- cho phép
- cho phép
- cho phép
- Ngoài ra
- Mặc dù
- đàn bà gan dạ
- Amazon EC2
- Amazon RDS
- Amazon Web Services
- an
- và
- nhân loại
- bất kì
- api
- API
- Các Ứng Dụng
- các ứng dụng
- Nộp đơn
- kiến trúc
- LÀ
- AS
- liên kết
- At
- tăng
- tăng cường
- gia tăng
- sẵn có
- có sẵn
- tránh
- AWS
- cơ sở
- dựa
- thay mặt
- BEST
- thực hành tốt nhất
- giữa
- lớn
- Dữ Liệu Lớn.
- xây dựng
- Xây dựng
- kinh doanh
- by
- cuộc gọi
- Cuộc gọi
- CAN
- khả năng
- trường hợp
- Catch
- nhất định
- thách thức
- thay đổi
- Những thay đổi
- tải
- kiểm tra
- Chọn
- đám mây
- áp dụng đám mây
- giao tiếp
- giao tiếp
- phức tạp
- tuân thủ
- Tính
- máy tính
- Khoa học Máy tính
- Tầm nhìn máy tính
- điều kiện
- liên quan
- Kết nối
- An ủi
- nội dung
- bối cảnh
- điều khiển
- điều khiển
- Doanh nghiệp
- Tương ứng
- tạo
- tạo ra
- tạo ra
- khách hàng
- khách hàng
- tùy chỉnh
- tiên tiến
- dữ liệu
- Cơ sở dữ liệu
- cơ sở dữ liệu
- thập kỷ
- chứng minh
- chứng minh
- từ chối
- triển khai
- triển khai
- Mô tả
- phát triển
- phát triển
- trực tiếp
- thảo luận
- phân phối
- khác nhau
- do
- dễ dàng
- hiệu lực
- hiệu quả
- cho phép
- cuối
- Điểm cuối
- An ninh điểm cuối
- Kỹ Sư
- nâng cao
- đảm bảo
- đảm bảo
- đăng ký hạng mục thi
- Doanh nghiệp
- doanh nghiệp
- thành lập
- ví dụ
- kinh nghiệm
- thử nghiệm
- chuyên môn
- tiếp xúc
- Tiếp xúc
- tạo điều kiện
- thất bại
- gia đình
- Liên bang
- thông tin phản hồi
- Tìm kiếm
- tường lửa
- tiếp theo
- sau
- Trong
- Nền tảng
- từ
- đầy đủ
- chức năng
- tương lai
- cửa ngõ
- tạo ra
- thế hệ
- Trí tuệ nhân tạo
- Georgia
- được
- được
- đi
- Nhóm
- Các nhóm
- Có
- he
- giúp đỡ
- giúp đỡ
- của mình
- Độ đáng tin của
- Hướng dẫn
- HTML
- http
- HTTPS
- Hỗn hợp
- ID
- Bản sắc
- id
- nâng cao
- in
- bao gồm
- đầu ngành
- thông tin
- Cơ sở hạ tầng
- đổi mới
- sáng tạo
- truyền cảm hứng
- ví dụ
- Viện
- hướng dẫn
- tích hợp
- Giao thức
- Internet
- kết nối Internet
- trong
- viện dẫn
- IP
- Địa chỉ IP
- IT
- cuộc hành trình
- jpg
- Phòng thí nghiệm
- mới nhất
- lớp
- hàng đầu
- Dẫn
- học tập
- ít nhất
- Rời bỏ
- trái
- Cấp
- nằm
- LINK
- tìm kiếm
- máy
- học máy
- làm cho
- LÀM CHO
- quản lý
- quản lý
- Có thể..
- cơ chế
- Menu
- Michael
- Phút
- Giảm nhẹ
- ML
- MLOps
- kiểu mẫu
- mô hình
- điều độ
- sửa đổi
- xe mô tô
- tên
- Điều hướng
- THÔNG TIN
- Cần
- mạng
- tiếp theo
- nlp
- of
- Cung cấp
- on
- có thể
- tối ưu hóa
- Tối ưu hóa
- or
- tổ chức
- nguồn gốc
- Nền tảng khác
- ra
- kết quả
- kết thúc
- riêng
- trang
- cửa sổ
- đam mê
- quyền
- plato
- Thông tin dữ liệu Plato
- PlatoDữ liệu
- chơi
- Chính sách
- điều luật
- Bài đăng
- tiềm năng
- -
- thực hành
- điều kiện tiên quyết
- trước
- Hiệu trưởng
- riêng
- đặc quyền
- vấn đề
- quá trình
- Sản phẩm
- Thông tin sản phẩm
- độc quyền
- bảo vệ
- cho
- cung cấp
- công khai
- mục đích
- chất lượng
- truy vấn
- Mau
- phạm vi
- RAY
- Đọc
- nhận
- yêu cầu
- Yêu cầu
- tài nguyên
- Thông tin
- phản ứng
- hạn chế
- rides
- Vai trò
- vai trò
- định tuyến
- chạy
- SC
- khả năng mở rộng
- Quy mô
- Khoa học
- liền mạch
- Tìm kiếm
- Phần
- an toàn
- an toàn
- an ninh
- xem
- riêng biệt
- Không có máy chủ
- dịch vụ
- DỊCH VỤ
- định
- Chia sẻ
- nên
- thể hiện
- So
- Bóng đá
- giải pháp
- Giải pháp
- nguồn
- chuyên gia
- riêng
- quy định
- Chi
- Tính ổn định
- ngăn xếp
- các bên liên quan
- bắt đầu
- Startups
- Tuyên bố
- Trạng thái
- Bước
- Các bước
- Chiến lược
- subnet
- mạng con
- như vậy
- Hỗ trợ
- chắc chắn
- Hãy
- Công nghệ
- Công nghệ
- mẫu
- thử nghiệm
- Kiểm tra
- texas
- văn bản
- việc này
- Sản phẩm
- cung cấp their dịch
- Them
- sau đó
- bằng cách ấy
- Kia là
- họ
- điều này
- mối đe dọa
- Thông qua
- thời gian
- đến
- công cụ
- giao thông
- Chuyển đổi
- thử
- hai
- Dưới
- cho đến khi
- Cập nhật
- sử dụng
- ca sử dụng
- sử dụng
- HIỆU LỰC
- khác nhau
- phiên bản
- thông qua
- Xem
- ảo
- tầm nhìn
- đi bộ
- muốn
- là
- we
- web
- các dịch vụ web
- khi nào
- cái nào
- trong khi
- sẽ
- với
- không có
- quy trình làm việc
- khoai mỡ
- Bạn
- trên màn hình
- zephyrnet
- khu vực Ace