Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon

Bài đăng này được viết với sự cộng tác của Balaji Chandrasekaran, Jennifer Cwagenberg, Andrew Sansom và Eiman Ebrahimi từ Protopia AI.

Các mô hình ngôn ngữ lớn (LLM) mới và mạnh mẽ đang thay đổi hoạt động kinh doanh một cách nhanh chóng, nâng cao hiệu suất và hiệu suất cho nhiều trường hợp sử dụng của doanh nghiệp. Tốc độ là điều cốt yếu và việc áp dụng công nghệ LLM có thể tạo ra hoặc phá vỡ lợi thế cạnh tranh của doanh nghiệp. AWS đặc biệt phù hợp để cung cấp cho doanh nghiệp những công cụ cần thiết để triển khai LLM trên quy mô lớn nhằm hỗ trợ việc ra quyết định quan trọng.

Khi triển khai công nghệ AI tổng quát, các doanh nghiệp thực sự lo ngại về việc tiếp xúc dữ liệu và quyền sở hữu thông tin bí mật có thể được gửi tới LLM. Những lo ngại về quyền riêng tư và bảo vệ dữ liệu này có thể làm chậm hoặc hạn chế việc sử dụng LLM trong các tổ chức. Các doanh nghiệp cần một cách có trách nhiệm và an toàn hơn để gửi thông tin nhạy cảm đến các mô hình mà không cần phải gánh chịu chi phí thường rất cao của DevOps tại chỗ.

Bài đăng mô tả cách bạn có thể vượt qua những thách thức trong việc duy trì quyền sở hữu dữ liệu và bảo vệ quyền riêng tư của dữ liệu trong khi sử dụng LLM bằng cách triển khai Stained Glass Transform của Protopia AI để bảo vệ dữ liệu của bạn. AI bảo vệ đã hợp tác với AWS để cung cấp thành phần quan trọng trong việc bảo vệ và sở hữu dữ liệu nhằm giúp doanh nghiệp áp dụng Generative AI một cách an toàn và hiệu quả. Bài đăng này phác thảo giải pháp và trình bày cách sử dụng giải pháp đó trong AWS cho các trường hợp sử dụng phổ biến của doanh nghiệp như Truy xuất thế hệ tăng cường (RAG) và với LLM hiện đại như lạc đà không bướu 2.

Tổng quan về Chuyển đổi Kính màu

Các tổ chức tìm cách giữ toàn quyền sở hữu và kiểm soát dữ liệu doanh nghiệp nhạy cảm của họ. Đây là trụ cột của AI có trách nhiệm và yêu cầu về quyền riêng tư và bảo vệ dữ liệu mới nổi vượt trên cả những đảm bảo pháp lý và bảo mật cơ bản của các nhà cung cấp LLM.

Mặc dù các đơn vị kinh doanh doanh nghiệp muốn sử dụng LLM cho nhiều nhiệm vụ khác nhau nhưng họ cũng lo ngại về bí mật thương mại, sở hữu trí tuệ và thông tin độc quyền khác bị rò rỉ qua dữ liệu được gửi đến các mô hình này. Đồng thời, các văn phòng thông tin, tuân thủ, quản lý dữ liệu và bảo mật doanh nghiệp lo ngại về việc lộ hoặc rò rỉ thông tin khách hàng ở dạng văn bản đơn giản hoặc dữ liệu được quy định khác ra bên ngoài doanh nghiệp. AWS và Protopia AI đang hợp tác để cung cấp thành phần quan trọng giúp giải quyết nhu cầu chung này của khách hàng doanh nghiệp.

Biến đổi kính màu (SGT) của Protopia AI giải quyết những thách thức này bằng cách chuyển đổi dữ liệu doanh nghiệp không được bảo vệ sang dạng tái hiện ngẫu nhiên, được gọi là dữ liệu RmoRed, như minh họa trong hình sau. Cách biểu diễn này là việc nhúng ngẫu nhiên dữ liệu gốc, lưu giữ thông tin mà LLM mục tiêu cần để hoạt động mà không để lộ các lời nhắc hoặc truy vấn nhạy cảm, ngữ cảnh hoặc dữ liệu tinh chỉnh. Việc trình bày lại này là sự chuyển đổi một chiều không thể đảo ngược, đảm bảo quyền riêng tư toàn diện cho dữ liệu doanh nghiệp và bảo vệ chống rò rỉ thông tin nhạy cảm ở dạng văn bản thuần túy cho LLM. Khả năng ứng dụng của SGT không giới hạn ở các mô hình ngôn ngữ. Các biểu diễn lại ngẫu nhiên cũng có thể được tạo cho dữ liệu trực quan và có cấu trúc. Cái tên Biến đổi Kính màu bắt nguồn từ hình thức trực quan của các biểu diễn lại ngẫu nhiên dữ liệu hình ảnh có thể giống với việc xem dữ liệu qua kính màu, như được minh họa trong phần này. Trường hợp sử dụng của Hải quân Hoa Kỳ.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

SGT hoạt động với các LLM tiên tiến nhất như Llama 2. Hình sau đây cho thấy ví dụ về việc áp dụng SGT cho mô hình Llama 2 để hướng dẫn theo sau đồng thời thêm một lớp bảo vệ cho hướng dẫn và ngữ cảnh. Phía bên trái của hình minh họa một ví dụ về tài liệu tài chính dưới dạng ngữ cảnh, kèm theo hướng dẫn yêu cầu mô hình tóm tắt tài liệu. Ở phía dưới bên trái, phản hồi do Llama 2 tạo ra khi thao tác trên dấu nhắc thô được hiển thị. Khi sử dụng SGT, các phần nhúng được liên kết với lời nhắc này sẽ được chuyển đổi ở phía máy khách thành các phần nhúng ngẫu nhiên, như được mô tả chi tiết hơn ở phần sau của bài đăng này. Phía dưới bên phải cho thấy Llama 2 vẫn có thể tạo ra phản hồi chính xác nếu dữ liệu RmoRed (các phần nhúng sau chuyển đổi) được gửi thay vì các phần nhúng không được bảo vệ. Phía trên bên phải cho thấy rằng nếu dữ liệu RmoRed bị rò rỉ, việc xây dựng lại lời nhắc ban đầu sẽ dẫn đến văn bản khó hiểu.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Để tạo SGT cho một mô hình nhất định, chẳng hạn như Llama 2, Protopia AI cung cấp một thư viện gọn nhẹ có tên là Stained Glass SDK, là phần mở rộng của PyTorch. Như minh họa trong hình dưới đây, sau khi tạo SGT, nó có thể được tích hợp vào quy trình triển khai theo nhiều cách. Biến đổi được tạo từ SDK có thể được triển khai cục bộ, trong thiết lập kết hợp hoặc hoàn toàn trên đám mây. Điều này có thể thực hiện được vì SGT được thiết kế để trở thành một quy trình gọn nhẹ đòi hỏi rất ít tài nguyên tính toán và do đó có tác động tối thiểu đến đường dẫn suy luận quan trọng. Một đánh giá quan trọng khác là duy trì độ chính xác của mô hình bằng cách sử dụng dữ liệu được trình bày lại. Chúng tôi nhận thấy rằng trên các loại dữ liệu và biến thể mô hình khác nhau, độ chính xác được duy trì trong giới hạn dung sai mong muốn khi sử dụng dữ liệu được trình bày lại.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Các tùy chọn triển khai và duy trì độ chính xác này cho phép tất cả các bên liên quan trong tổ chức doanh nghiệp áp dụng SGT một cách tự tin. Để bảo vệ hơn nữa đầu ra của LLM, Protopia AI có thể mã hóa đầu ra truy vấn thành một bản trình bày mà bộ giải mã chỉ dành cho chủ sở hữu dữ liệu doanh nghiệp.

Tổng quan về giải pháp

Phần trước đã mô tả cách bạn có thể sử dụng Stained Glass Transform trong nhiều kiến ​​trúc khác nhau. Hình dưới đây trình bày chi tiết các bước liên quan đến việc tạo, triển khai và sử dụng SGT cho LLM:

  • Tạo SGT – Nhóm đào tạo mô hình nền tảng LLM cơ bản (nhà cung cấp LLM độc quyền, nhà cung cấp dịch vụ đám mây hoặc nhóm ML doanh nghiệp tạo LLM của riêng họ) chạy phần mềm Stained Glass SDK của Protopia AI mà không thay đổi các phương pháp đào tạo và triển khai LLM hiện có của họ. Sau khi quá trình đào tạo mô hình nền tảng hoàn tất, SDK sẽ chạy dưới dạng tối ưu hóa vượt qua mô hình ngôn ngữ để tính toán SGT. Thẻ tối ưu hóa này được phân phối thông qua tiện ích mở rộng cho PyTorch. SDK bao bọc mô hình nền tảng và phát hiện một cách toán học Biến đổi Kính màu duy nhất cho LLM đó. Thông tin chi tiết hơn về toán học cơ bản có thể được tìm thấy trong sách trắng kèm theo. Lưu ý rằng vì nhóm đào tạo LLM cũng đang chạy SDK Kính màu nên không cần hiển thị hoặc gửi trọng lượng mô hình để hoàn thành bước này.
  • Phát hành và triển khai SGT – SGT là đầu ra từ bước tối ưu hóa trước đó được triển khai như một phần của đường dẫn dữ liệu cung cấp LLM được đào tạo. Như đã mô tả ở phần trước, SGT nằm ở phía khách hàng doanh nghiệp.
  • Sử dụng SGT – SGT chạy trên các lời nhắc do doanh nghiệp tạo và tạo ra các lời nhắc được bảo vệ, được gửi đến LLM đã triển khai. Điều này cho phép doanh nghiệp giữ quyền sở hữu các truy vấn và bối cảnh nhạy cảm của họ. Sử dụng Protopia AI Stained Glass, dữ liệu nhạy cảm không được bảo vệ sẽ không rời khỏi trang web hoặc vùng tin cậy của doanh nghiệp.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Bạn có thể sử dụng SDK Kính màu để tạo SGT theo nhiều cách. Ví dụ: bạn có thể sử dụng SDK Kính màu trong môi trường máy học (ML) tự quản lý với Dịch vụ Kubernetes đàn hồi của Amazon (Amazon EKS) để đào tạo và hội thảo hoặc trong Đám mây điện toán đàn hồi Amazon (Amazon EC2) trực tiếp. Một lựa chọn khác là nó có thể chạy trong Amazon SageMaker để tạo SGT cho một mô hình được đào tạo nhất định. Việc chuyển đổi đầu vào để triển khai trong quá trình suy luận từ máy khách độc lập với việc triển khai triển khai đã chọn.

Hình dưới đây minh họa khả năng triển khai trong môi trường ML tự quản lý, trong đó quá trình đào tạo Chuyển đổi kính màu được thực hiện trên Amazon EKS.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Trong quy trình làm việc này, một vùng chứa được tạo bằng SDK Kính màu và được triển khai để Đăng ký container đàn hồi Amazon (Amazon ECR). Bộ chứa này sau đó được triển khai trên Amazon EKS để huấn luyện SGT được lưu vào Dịch vụ lưu trữ đơn giản của Amazon (Amazon S3). Nếu đang sử dụng Amazon EC2, bạn có thể huấn luyện chuyển đổi trực tiếp trên phiên bản của mình như một phần của quá trình thiết lập ML. SDK Kính màu có thể chạy trên nhiều loại phiên bản khác nhau, bao gồm các dòng phiên bản Amazon P5, P4 hoặc G5, dựa trên yêu cầu LLM cơ bản của bạn. Sau khi LLM được triển khai để sử dụng cho hoạt động suy luận, ứng dụng khách sẽ sử dụng SGT đã tạo, đây là một thao tác nhẹ, để chuyển đổi lời nhắc và ngữ cảnh trước khi gửi chúng đến LLM. Bằng cách đó, chỉ dữ liệu đã chuyển đổi mới được hiển thị với LLM và quyền sở hữu đầu vào ban đầu được giữ lại ở phía khách hàng.

Hình sau đây minh họa cách bạn có thể huấn luyện một biến đổi và chạy suy luận trên SageMaker.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Quá trình tạo SGT diễn ra theo một lộ trình tương tự như quá trình thiết lập Amazon EKS bằng cách nhập dữ liệu huấn luyện từ Amazon S3, huấn luyện SGT trên vùng chứa và lưu dữ liệu đó vào Amazon S3. Bạn có thể sử dụng SDK Kính màu trong thiết lập SageMaker hiện tại của mình với Xưởng sản xuất Amazon SageMaker, sổ ghi chép SageMakerCông việc đào tạo SageMaker. LLM được lưu trữ dưới dạng điểm cuối SageMaker mà ứng dụng khách có thể truy cập được. Quá trình suy luận cho ứng dụng khách cũng giống với thiết lập Amazon EKS, ngoại trừ những gì đang phục vụ mô hình.

Biểu diễn lại ngẫu nhiên để bảo vệ lời nhắc LLM và tinh chỉnh dữ liệu

Phần này bao gồm nhiều trường hợp sử dụng khác nhau minh họa cách biểu diễn lại ngẫu nhiên bảo vệ lời nhắc LLM. Các ví dụ minh họa ý nghĩa chính đối với các nỗ lực sáng tạo AI của doanh nghiệp: mở ra cánh cửa mới cho các trường hợp sử dụng AI, đẩy nhanh tốc độ tiếp thị trong khi bảo vệ dữ liệu doanh nghiệp đúng cách và giữ quyền sở hữu dữ liệu nhạy cảm cần thiết để sử dụng trong lời nhắc LLM.

Trường hợp sử dụng RAG

Một trường hợp sử dụng phổ biến của doanh nghiệp đối với LLM là Thế hệ tăng cường truy xuất (RAG). Hình sau đây hiển thị một ví dụ minh họa trong đó lời nhắc và nguồn được bảo vệ bằng Kính màu. Phía bên trái của hình hiển thị các lời nhắc và thông tin nguồn không được bảo vệ. Khi doanh nghiệp triển khai RAG, các nguồn có thể bao gồm thông tin nhạy cảm như bí mật thương mại của doanh nghiệp, sở hữu trí tuệ hoặc thông tin tài chính. Phía bên phải hiển thị bản tái tạo tốt nhất có thể ở dạng văn bản mà con người có thể đọc được từ lời nhắc RmoRed do SGT tạo.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Chúng ta có thể quan sát thấy rằng ngay cả trong quá trình tái thiết tốt nhất có thể, thông tin vẫn hoàn toàn bị xáo trộn. Tuy nhiên, phản hồi từ mô hình có và không có chuyển đổi là như nhau, với các con trỏ tới tài liệu nguồn gốc, do đó duy trì tính chính xác của cả câu hỏi và tài liệu nguồn trong khi thực hiện trường hợp sử dụng phổ biến này của doanh nghiệp.

Khả năng ứng dụng rộng rãi trên LLM và ngôn ngữ

Một trong những điểm nổi bật của SDK Kính màu là nó có khả năng phục hồi cao trước những tiến bộ của mô hình và có thể thích ứng với các mô hình hiện đại như lạc đà không bướu 2. Hình dưới đây cho thấy một SGT được tạo trên Llama 2 LLM trước đây đã được tinh chỉnh để làm việc với văn bản tiếng Nhật. Ví dụ này minh họa thêm rằng SGT có thể được tạo và áp dụng cho bất kỳ ngôn ngữ nào và ngay cả đầu vào cho các mô hình tinh chỉnh cũng có thể được chuyển đổi. Khả năng ứng dụng chung của SGT được thúc đẩy bởi nền tảng vững chắc của SDK Kính màu có tính bất khả tri về mô hình và dữ liệu.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Bảo vệ dữ liệu tinh chỉnh cũng như lời nhắc

Stained Glass Transform không chỉ giới hạn ở việc bảo vệ dữ liệu tại thời điểm suy luận; nó cũng có thể bảo vệ dữ liệu được sử dụng để tinh chỉnh mô hình nền tảng. Quá trình tạo chuyển đổi cho các tập dữ liệu tinh chỉnh giống như quy trình được giải thích trong phần kiến ​​trúc giải pháp trước đó trong bài đăng này. Việc chuyển đổi được tạo để tinh chỉnh mô hình nền tảng mà không cần truy cập vào dữ liệu tinh chỉnh. Sau khi SGT được tạo và huấn luyện cho mô hình nền tảng, tập dữ liệu tinh chỉnh sẽ được chuyển thành các biểu diễn lại ngẫu nhiên, sau đó sẽ được sử dụng để tinh chỉnh mô hình nền tảng. Quá trình này được giải thích chi tiết hơn trong sách trắng kèm theo.

Trong ví dụ sau, khách hàng doanh nghiệp cần tinh chỉnh mô hình hiện có để phát hiện sự bất thường của nhật ký mạng. Họ đã sử dụng Kính màu để chuyển đổi tập dữ liệu tinh chỉnh nhạy cảm thành các phần nhúng ngẫu nhiên, được sử dụng để tinh chỉnh mô hình nền tảng của họ. Họ phát hiện ra rằng mô hình phát hiện đã được tinh chỉnh trên các biểu diễn được chuyển đổi được thực hiện với độ chính xác gần như giống hệt so với kịch bản giả định về việc tinh chỉnh mô hình nền tảng trên tập dữ liệu tinh chỉnh không được bảo vệ. Bảng sau đây trình bày hai ví dụ về bản ghi dữ liệu văn bản thuần túy từ tập dữ liệu tinh chỉnh và bản tái tạo thành văn bản của các bản ghi dữ liệu tương tự từ tập dữ liệu tinh chỉnh.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Dưới mui xe của Stained Glass Transform dành cho LLM

Khi áp dụng cho thị giác máy tính, SGT hoạt động trên các tính năng pixel đầu vào và đối với LLM, nó hoạt động ở cấp độ nhúng. Để làm nổi bật cách hoạt động của Biến đổi Kính màu, hãy tưởng tượng phần nhúng lời nhắc dưới dạng ma trận, như được minh họa ở bên trái của hình sau. Trong mỗi mục, có một giá trị xác định. Giá trị này có thể được ánh xạ tới dữ liệu gốc, hiển thị lời nhắc không được bảo vệ. Stained Glass Transform chuyển đổi ma trận các giá trị xác định này thành ma trận có các phần tử là đám mây khả năng.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.

Dấu nhắc được chuyển đổi được hiển thị bằng cách lấy mẫu nhiễu từ phân bố xác suất do SGT xác định và thêm nhiễu được lấy mẫu vào các phần nhúng xác định, giúp ngẫu nhiên hóa các giá trị dấu nhắc ban đầu mà không thể đảo ngược. Mô hình vẫn hiểu lời nhắc được biểu diễn lại ngẫu nhiên ở cấp độ toán học và có thể thực hiện nhiệm vụ của mình một cách chính xác.

Kết luận

Bài đăng này thảo luận về cách Chuyển đổi kính màu của Protopia AI tách quyền sở hữu và bảo vệ dữ liệu thô khỏi quy trình vận hành ML, cho phép doanh nghiệp giữ quyền sở hữu và duy trì quyền riêng tư đối với thông tin nhạy cảm trong lời nhắc LLM và tinh chỉnh dữ liệu. Bằng cách sử dụng biện pháp bảo vệ dữ liệu tiên tiến này cho việc sử dụng LLM, doanh nghiệp có thể đẩy nhanh việc áp dụng các mô hình nền tảng và LLM bằng cách bớt lo lắng hơn về việc lộ thông tin nhạy cảm. Bằng cách mở khóa một cách an toàn giá trị trong dữ liệu doanh nghiệp thực, các tổ chức có thể tận dụng hiệu quả và kết quả kinh doanh đã hứa của LLM một cách hiệu quả và nhanh chóng hơn. Để tìm hiểu thêm về công nghệ này, bạn có thể tìm đọc thêm trong sách trắng kèm theokết nối với Protopia AI để có quyền truy cập và dùng thử trên dữ liệu doanh nghiệp của bạn.

Giới thiệu về Protopia AI

Protopia AI là công ty hàng đầu về công nghệ AI/ML bảo vệ dữ liệu và bảo vệ quyền riêng tư có trụ sở tại Austin, Texas và chuyên cho phép các thuật toán AI và nền tảng phần mềm hoạt động mà không cần truy cập thông tin văn bản thuần túy. Trong 2 năm qua, Protopia AI đã trình diễn thành công sản phẩm Stained Glass Transform hàng đầu của mình trong nhiều trường hợp sử dụng ML và loại dữ liệu với Hải quân Hoa Kỳ, các dịch vụ tài chính hàng đầu và các nhà cung cấp công nghệ toàn cầu.

Protopia AI hợp tác với các doanh nghiệp, nhà cung cấp AI và LLM tổng quát cũng như Nhà cung cấp dịch vụ đám mây (CSP) để cho phép duy trì quyền sở hữu và bảo mật dữ liệu doanh nghiệp trong khi sử dụng các giải pháp AI/ML. Protopia AI đã hợp tác với AWS để cung cấp một thành phần quan trọng trong việc bảo vệ và sở hữu dữ liệu để doanh nghiệp áp dụng Generative AI và là một trong 21 công ty khởi nghiệp được chọn tham dự lễ khai mạc Công cụ tăng tốc AI sáng tạo của AWS vào năm 2023.


Giới thiệu về tác giả

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái. Balaji Chandrasekaran là Phó chủ tịch phụ trách Tiếp cận thị trường và Hỗ trợ khách hàng tại Protopia AI, hợp tác chặt chẽ với khách hàng để tận dụng AI trong hoạt động kinh doanh của họ đồng thời ưu tiên bảo vệ dữ liệu và quyền riêng tư. Trước Protopia AI, Balaji là Trưởng nhóm Sản phẩm Giải pháp AI tại Infor, phát triển các sản phẩm lấy giá trị làm trung tâm đồng thời đóng vai trò là đối tác đáng tin cậy cho khách hàng doanh nghiệp trong nhiều ngành khác nhau. Ngoài công việc, anh ấy thích âm nhạc, đi bộ đường dài và đi du lịch cùng gia đình.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.Jennifer Cwagenberg lãnh đạo nhóm kỹ thuật tại Protopia AI và làm việc để đảm bảo rằng công nghệ Kính màu đáp ứng nhu cầu bảo vệ dữ liệu của khách hàng. Jennifer có kinh nghiệm trước đây về bảo mật khi làm việc tại Toyota trong Nhóm An ninh mạng Sản phẩm của họ, quản lý khối lượng công việc trên Đám mây tại N-able và chịu trách nhiệm về dữ liệu tại Match.com.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.Andrew Sansom là Kỹ sư Giải pháp AI tại Protopia AI, nơi anh giúp các doanh nghiệp sử dụng AI trong khi lưu giữ thông tin riêng tư và nhạy cảm trong dữ liệu của họ. Trước Protopia AI, anh làm Tư vấn kỹ thuật tập trung vào việc hỗ trợ các giải pháp AI cho khách hàng trong nhiều ngành bao gồm Tài chính, Sản xuất, Chăm sóc sức khỏe và Giáo dục. Ông cũng dạy Khoa học Máy tính và Toán cho học sinh Trung học, Đại học và Chuyên nghiệp.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.Eiman Ebrahimi, Tiến sĩ, là người đồng sáng lập và Giám đốc điều hành của Protopia AI. Tiến sĩ Ebrahimi rất đam mê việc cho phép AI làm phong phú thêm trải nghiệm của con người trên các ngành dọc và xã hội khác nhau. Protopia AI là tầm nhìn nhằm nâng cao lăng kính qua đó AI quan sát dữ liệu cần thiết và chất lượng mà nó cần đồng thời tạo ra các khả năng mới để bảo vệ thông tin nhạy cảm. Trước Protopia AI, ông là Nhà khoa học nghiên cứu cấp cao tại NVIDIA trong 9 năm. Công việc của ông tại nghiên cứu NVIDIA nhằm giải quyết các vấn đề truy cập bộ dữ liệu khổng lồ trong ML/AI. Ông cũng là đồng tác giả của các ấn phẩm được bình duyệt về cách tận dụng sức mạnh của hàng nghìn GPU để giúp việc đào tạo các mô hình ngôn ngữ lớn trở nên khả thi.

Bảo vệ dữ liệu cơ bản để tăng tốc LLM cho doanh nghiệp với Protopia AI | Dịch vụ web của Amazon PlatoThông minh dữ liệu Blockchain. Tìm kiếm dọc. Ái.Rohit Talluri là Chuyên gia GTM AI sáng tạo tại Amazon Web Services (AWS). Anh ấy đang hợp tác với các nhà xây dựng mô hình AI có tính sáng tạo hàng đầu, khách hàng chiến lược, đối tác AI/ML quan trọng và Nhóm dịch vụ AWS để hỗ trợ thế hệ trí tuệ nhân tạo, học máy và điện toán tăng tốc tiếp theo trên AWS. Ông trước đây là Kiến trúc sư giải pháp doanh nghiệp và Trưởng nhóm giải pháp toàn cầu cho Tư vấn mua bán và sáp nhập AWS.

Dấu thời gian:

Thêm từ Học máy AWS