حماية البيانات الأساسية لتسريع LLM للمؤسسات باستخدام Protopia AI | خدمات الويب الأمازون

تمت كتابة هذا المقال بالتعاون مع بلاجي شاندراسيكاران وجنيفر كواجنبرج وأندرو سانسوم وإيمان إبراهيمي من شركة Protopia AI.

تعمل نماذج اللغات الكبيرة الجديدة والقوية (LLMs) على تغيير الأعمال بسرعة، مما يؤدي إلى تحسين الكفاءة والفعالية لمجموعة متنوعة من حالات استخدام المؤسسات. تعد السرعة أمرًا جوهريًا، كما أن اعتماد تقنيات LLM يمكن أن يؤدي إلى تحقيق الميزة التنافسية للشركة أو كسرها. تعتبر AWS مناسبة بشكل خاص لتزويد المؤسسات بالأدوات اللازمة لنشر LLMs على نطاق واسع لتمكين اتخاذ القرارات الحاسمة.

في تنفيذها لتكنولوجيا الذكاء الاصطناعي التوليدية، لدى الشركات مخاوف حقيقية بشأن تعرض البيانات وملكية المعلومات السرية التي قد يتم إرسالها إلى LLMs. يمكن لهذه المخاوف المتعلقة بالخصوصية وحماية البيانات أن تبطئ أو تحد من استخدام LLMs في المؤسسات. تحتاج المؤسسات إلى طريقة مسؤولة وأكثر أمانًا لإرسال معلومات حساسة إلى النماذج دون الحاجة إلى تحمل الأعباء العامة الباهظة في كثير من الأحيان لعمليات DevOps المحلية.

يصف المنشور كيف يمكنك التغلب على تحديات الاحتفاظ بملكية البيانات والحفاظ على خصوصية البيانات أثناء استخدام LLMs عن طريق نشر Stained Glass Transform الخاص بـ Protopia AI لحماية بياناتك. بروتوبيا منظمة العفو الدولية لقد عقدت شراكة مع AWS لتقديم المكون الحاسم لحماية البيانات وملكيتها من أجل اعتماد مؤسسي آمن وفعال للذكاء الاصطناعي التوليدي. يوضح هذا المنشور الحل ويوضح كيف يمكن استخدامه في AWS لحالات الاستخدام الشائعة للمؤسسات مثل الجيل المعزز الاسترداد (RAG) ومع أحدث شهادات LLM مثل اللاما 2.

نظرة عامة على تحويل الزجاج الملون

تسعى المؤسسات إلى الاحتفاظ بالملكية الكاملة والتحكم في بيانات المؤسسة الحساسة. يعد هذا أحد ركائز الذكاء الاصطناعي المسؤول ومتطلبات حماية البيانات والخصوصية الناشئة بما يتجاوز الضمانات الأمنية والقانونية الأساسية لمقدمي LLM.

على الرغم من أن وحدات الأعمال في المؤسسة ترغب في الاستفادة من LLMs في مهام مختلفة، إلا أنها تشعر بالقلق أيضًا بشأن الأسرار التجارية والملكية الفكرية ومعلومات الملكية الأخرى التي تتسرب من خلال البيانات المرسلة إلى هذه النماذج. وفي الوقت نفسه، تخشى مكاتب أمن المؤسسات والامتثال وإدارة البيانات والمعلومات من كشف أو تسريب معلومات العملاء ذات النص العادي أو غيرها من البيانات المنظمة خارج المؤسسة. تتعاون AWS وProtopia AI لتقديم المكون الحيوي الذي يحل هذه الحاجة المشتركة لعملاء المؤسسة.

يعمل تحويل الزجاج الملون (SGT) الخاص بشركة Protopia AI على حل هذه التحديات عن طريق تحويل بيانات المؤسسة غير المحمية إلى إعادة تمثيل عشوائي، يشار إليها باسم بيانات RmoRed، كما هو موضح في الشكل التالي. هذا التمثيل عبارة عن تضمين عشوائي للبيانات الأصلية، مع الحفاظ على المعلومات التي يحتاجها LLM الهدف للعمل دون الكشف عن المطالبات أو الاستعلامات الحساسة أو السياق أو ضبط البيانات. تعد إعادة التمثيل هذه بمثابة تحول أحادي الاتجاه لا يمكن عكسه، مما يضمن الخصوصية الشاملة لبيانات المؤسسة والحماية من تسرب المعلومات الحساسة ذات النص العادي إلى LLMs. لا يقتصر تطبيق SGT على نماذج اللغة. يمكن أيضًا إنشاء عمليات إعادة تمثيل عشوائية للبيانات المرئية والمنظمة. يعود اسم "تحويل الزجاج الملون" إلى المظهر المرئي لعمليات إعادة التمثيل العشوائية للبيانات المرئية التي يمكن أن تشبه عرض البيانات من خلال الزجاج الملون، كما هو موضح في هذا حالة استخدام البحرية الأمريكية.

يعمل SGT مع أحدث برامج LLM مثل Llama 2. يوضح الشكل التالي مثالاً لتطبيق SGT على نموذج Llama 2 للتعليمات التالية أثناء إضافة طبقة حماية للتعليمات والسياق. يعرض الجانب الأيسر من الشكل مثالاً لمستند مالي كسياق، مع تعليمات تطلب من النموذج تلخيص المستند. في أسفل اليسار، يتم عرض الاستجابة الناتجة عن Llama 2 عند التشغيل على الموجه الأولي. عند استخدام SGT، يتم تحويل التضمينات المرتبطة بهذه المطالبة من جانب العميل إلى التضمينات العشوائية، كما هو موضح بمزيد من التفصيل لاحقًا في هذا المنشور. يُظهر الجزء السفلي الأيمن أن Llama 2 لا يزال بإمكانه إنشاء استجابة صحيحة إذا تم إرسال بيانات RmoRed (تضمينات ما بعد التحويل) بدلاً من التضمينات غير المحمية. يوضح الجزء العلوي الأيمن أنه إذا تسربت بيانات RmoRed، فإن إعادة بناء الموجه الأصلي قد يؤدي إلى نص غير مفهوم.

لإنشاء SGT لنموذج معين مثل Llama 2، توفر Protopia AI مكتبة خفيفة الوزن تسمى Stained Glass SDK، وهي امتداد لـ PyTorch. كما هو موضح في الشكل التالي، بعد إنشاء SGT، يمكن دمجه في مسارات النشر بطرق متعددة. يمكن نشر التحويل الذي تم إنشاؤه من SDK محليًا، في إعداد مختلط، أو بالكامل على السحابة. وهذا ممكن لأن SGT تم تصميمه ليكون عملية خفيفة الوزن تتطلب القليل جدًا من موارد الحوسبة، وبالتالي يكون لها تأثير ضئيل على المسار الحرج للاستدلال. التقييم الرئيسي الآخر هو الاحتفاظ بدقة النموذج باستخدام البيانات المعاد تمثيلها. نلاحظ أنه عبر أنواع البيانات المختلفة وأشكال النماذج المختلفة، يتم الاحتفاظ بالدقة ضمن حدود التسامح المرغوبة عند استخدام البيانات المعاد تمثيلها.

تسمح هذه الخيارات للنشر والحفاظ على الدقة باعتماد SGT بثقة من قبل جميع أصحاب المصلحة داخل مؤسسة المؤسسة. لمزيد من الحماية لمخرجات LLM، يمكن لـ Protopia AI تشفير مخرجات الاستعلام إلى تمثيل يتوفر وحدة فك ترميزه فقط لمالك بيانات المؤسسة.

حل نظرة عامة

وصف القسم السابق كيف يمكنك استخدام تحويل الزجاج الملون في مجموعة متنوعة من البنى. يوضح الشكل التالي الخطوات المتبعة في إنشاء ونشر واستخدام SGT لـ LLMs:

• إنشاء SGT – يقوم الفريق الذي يقوم بتدريب نموذج الأساس الأساسي لـ LLM (مقدمي LLMs الملكية، أو مزود الخدمة السحابية، أو فرق تعلم الآلة في المؤسسة التي تنشئ LLMs الخاصة بهم) بتشغيل برنامج Stained Glass SDK الخاص بـ Protopia AI دون تغيير ممارساتهم الحالية للتدريب ونشر LLM. بعد اكتمال التدريب على النموذج الأساسي، يتم تشغيل SDK كممر تحسين عبر نموذج اللغة لحساب SGT. يتم تسليم تصريح التحسين هذا من خلال امتداد لـ PyTorch. يغلف SDK النموذج الأساسي ويكتشف رياضيًا تحويلًا فريدًا للزجاج الملون لـ LLM. يمكن العثور على مزيد من التفاصيل حول الرياضيات الأساسية في الورقة البيضاء المصاحبة. لاحظ أنه نظرًا لأن فريق تدريب LLM نفسه يقوم أيضًا بتشغيل Stained Glass SDK، فلا يوجد عرض أو إرسال لأوزان النماذج الضرورية لإكمال هذه الخطوة.
• إصدار ونشر SGT - يتم نشر SGT الناتج من خطوة التحسين السابقة كجزء من خط أنابيب البيانات الذي يغذي LLM المدرب. كما هو موضح في القسم السابق، يقع SGT في جانب عميل المؤسسة.
• استخدام SGT - يعمل SGT على المطالبات التي أنشأتها المؤسسة ويقوم بإنشاء مطالبات محمية، والتي يتم إرسالها إلى LLM المنشورة. وهذا يمكّن المؤسسة من الاحتفاظ بملكية استعلاماتها وسياقها الحساس. باستخدام Protopia AI Stained Glass، لا تترك البيانات الحساسة غير المحمية موقع المؤسسة أو منطقة الثقة.

يمكنك استخدام Stained Glass SDK لإنشاء SGT بطرق متعددة. على سبيل المثال، يمكنك استخدام Stained Glass SDK في بيئات التعلم الآلي ذاتية الإدارة (ML) مع خدمة أمازون مطاطا Kubernetes (Amazon EKS) للتدريب والاستدلال أو داخلها الأمازون الحوسبة المرنة السحابية (أمازون EC2) مباشرة. خيار آخر هو أنه يمكن تشغيله في الداخل الأمازون SageMaker لإنشاء SGT لنموذج مدرب معين. يعد تحويل المدخلات للنشر أثناء الاستدلال من العميل مستقلاً عن تنفيذ النشر المختار.

يوضح الشكل التالي التنفيذ المحتمل في بيئة تعلم الآلة المُدارة ذاتيًا حيث يتم إجراء التدريب على تحويل الزجاج الملون على Amazon EKS.

في سير العمل هذا، يتم إنشاء حاوية باستخدام Stained Glass SDK ونشرها في سجل الأمازون المرنة للحاويات (أمازون إي سي آر). يتم بعد ذلك نشر هذه الحاوية على Amazon EKS لتدريب SGT الذي تم حفظه فيه خدمة تخزين أمازون البسيطة (أمازون إس 3). إذا كنت تستخدم Amazon EC2، فيمكنك تدريب التحويل مباشرة على المثيل الخاص بك كجزء من إعداد ML الخاص بك. يمكن تشغيل Stained Glass SDK على مجموعة متنوعة من أنواع المثيلات، بما في ذلك مجموعات مثيلات Amazon P5 أو P4 أو G5، بناءً على متطلبات LLM الأساسية الخاصة بك. بعد نشر LLM لاستخدامه في الاستدلال، يستخدم تطبيق العميل SGT الذي تم إنشاؤه، وهي عملية خفيفة الوزن، لتحويل المطالبات والسياق قبل إرسالها إلى LLM. ومن خلال القيام بذلك، يتم عرض البيانات المحولة فقط لـ LLM، ويتم الاحتفاظ بملكية المدخلات الأصلية من جانب العميل.

يوضح الشكل التالي كيف يمكنك تدريب التحويل وتشغيل الاستدلال على SageMaker.

يتبع إنشاء SGT مسارًا مشابهًا لإعداد Amazon EKS عن طريق استيعاب بيانات التدريب من Amazon S3، وتدريب SGT على حاوية، وحفظها في Amazon S3. يمكنك استخدام Stained Glass SDK في إعداد SageMaker الحالي لديك أمازون ساجميكر ستوديو, دفاتر SageMaker، و وظيفة تدريب SageMaker. تتم استضافة LLM كنقطة نهاية SageMaker التي يمكن الوصول إليها من خلال تطبيق العميل. يتطابق أيضًا استنتاج تطبيق العميل مع إعداد Amazon EKS، باستثناء ما يخدم النموذج.

إعادة تمثيل عشوائية لحماية مطالبات LLM وضبط البيانات

يغطي هذا القسم مجموعة متنوعة من حالات الاستخدام التي توضح كيفية حماية إعادة التمثيل العشوائي لمطالبات LLM. توضح الأمثلة الآثار الرئيسية لجهود الذكاء الاصطناعي التوليدي للمؤسسات: فتح أبواب جديدة لحالات استخدام الذكاء الاصطناعي، وتسريع سرعة الوصول إلى السوق مع حماية بيانات المؤسسة بشكل صحيح، والاحتفاظ بملكية البيانات الحساسة المطلوبة للاستخدام في مطالبات LLM.

حالة استخدام RAG

إحدى حالات الاستخدام المؤسسي الشائعة لـ LLM هي تقنية الاسترجاع المعزز (RAG). يوضح الشكل التالي مثالًا توضيحيًا حيث تتم حماية المطالبات والمصادر باستخدام الزجاج الملون. يُظهر الجانب الأيسر من الشكل المطالبات غير المحمية ومعلومات المصدر. في تطبيق RAG على مستوى المؤسسة، يمكن أن تتضمن المصادر معلومات حساسة مثل الأسرار التجارية للمؤسسة أو الملكية الفكرية أو المعلومات المالية. يُظهر الجانب الأيمن أفضل إعادة بناء ممكنة في نص يمكن قراءته بواسطة الإنسان من مطالبات RmoRed التي أنشأها SGT.

يمكننا أن نلاحظ أنه حتى في أفضل إعادة بناء ممكنة، تكون المعلومات غامضة تمامًا. ومع ذلك، فإن الاستجابة من النموذج مع التحويل وبدونه هي نفسها، مع وجود مؤشرات إلى المستندات المصدر الأصلية، وبالتالي الحفاظ على دقة كل من السؤال والمستندات المصدر أثناء تنفيذ حالة الاستخدام الشائعة هذه للمؤسسة.

قابلية تطبيق واسعة عبر LLMs واللغات

أحد أبرز مميزات Stained Glass SDK هو أنه يتميز بمرونة عالية لتطورات النماذج وقابلية للتكيف مع أحدث النماذج مثل اللاما 2. يوضح الشكل التالي SGT الذي تم إنشاؤه على Llama 2 LLM والذي تم ضبطه مسبقًا للعمل مع النص الياباني. يوضح هذا المثال أيضًا أنه يمكن إنشاء SGTs وتطبيقها لأي لغة، وأنه يمكن تحويل حتى مدخلات النماذج المضبوطة بدقة. إن إمكانية التطبيق العام لـ SGT مدفوعة بالأساس القوي لـ Stained Glass SDK كونه حياديًا للنماذج والبيانات.

حماية بيانات الضبط وكذلك المطالبات

لا يقتصر تحويل الزجاج الملون فقط على حماية البيانات في وقت الاستدلال؛ يمكنه أيضًا حماية البيانات المستخدمة لضبط نموذج الأساس. إن عملية إنشاء التحويل لضبط مجموعات البيانات هي نفسها التي تم شرحها في قسم بنية الحلول سابقًا في هذا المنشور. يتم إنشاء التحويل لضبط النموذج الأساسي بشكل دقيق دون الوصول إلى بيانات الضبط الدقيق. بعد إنشاء SGT وتدريبه على نموذج الأساس، يتم تحويل مجموعة بيانات الضبط الدقيق إلى عمليات إعادة تمثيل عشوائية سيتم استخدامها بعد ذلك لضبط نموذج الأساس. يتم شرح هذه العملية بمزيد من التفصيل في الورقة البيضاء المصاحبة.

في المثال التالي، يحتاج عميل المؤسسة إلى ضبط نموذج موجود للكشف عن الحالات الشاذة في سجل الشبكة. لقد استخدموا الزجاج الملون لتحويل مجموعة بيانات الضبط الدقيق الحساسة إلى تضمينات عشوائية، والتي تم استخدامها لضبط نموذج الأساس الخاص بهم. ووجدوا أن نموذج الكشف الذي تم ضبطه بدقة على التمثيلات المحولة تم تنفيذه بدقة متطابقة تقريبًا مقارنة بالسيناريو الافتراضي لضبط النموذج الأساسي على مجموعة بيانات الضبط الدقيق غير المحمية. يعرض الجدول التالي مثالين لسجلات بيانات النص العادي من مجموعة بيانات الضبط الدقيق وإعادة بناء نص سجلات البيانات نفسها من مجموعة بيانات الضبط الدقيق.

تحت غطاء تحويل الزجاج الملون لـ LLMs

عند تطبيقه على رؤية الكمبيوتر، يعمل SGT على ميزات بكسل الإدخال، وبالنسبة لـ LLMs، فإنه يعمل على مستوى التضمين. لتسليط الضوء على كيفية عمل تحويل الزجاج الملون، تخيل التضمينات الفورية كمصفوفة، كما هو موضح على يسار الشكل التالي. في كل إدخال، هناك قيمة حتمية. يمكن تعيين هذه القيمة إلى البيانات الأصلية، وكشف الموجه غير المحمي. يقوم تحويل الزجاج الملون بتحويل مصفوفة القيم الحتمية هذه إلى مصفوفة تمثل عناصرها سحابة من الاحتمالات.

يتم تقديم الموجه المحول عن طريق أخذ عينات من الضوضاء من التوزيعات الاحتمالية المحددة بواسطة SGT وإضافة الضوضاء التي تم أخذ عينات منها إلى التضمينات الحتمية، مما يؤدي إلى عشوائية قيم الموجه الأصلية بشكل لا رجعة فيه. لا يزال النموذج يفهم الموجه العشوائي المعاد تمثيله على المستوى الرياضي ويمكنه تنفيذ مهمته بدقة.

وفي الختام

ناقش هذا المنشور كيف يقوم تحويل الزجاج الملون الخاص بـ Protopia AI بفصل ملكية البيانات الأولية وحمايتها عن عملية عمليات تعلم الآلة، مما يمكّن المؤسسات من الاحتفاظ بالملكية والحفاظ على خصوصية المعلومات الحساسة في مطالبات LLM وضبط البيانات. من خلال استخدام أحدث حماية للبيانات لاستخدام LLM، يمكن للمؤسسات تسريع اعتماد النماذج الأساسية وLLMs من خلال تقليل القلق بشأن الكشف عن المعلومات الحساسة. من خلال إطلاق القيمة بأمان في بيانات المؤسسة الحقيقية، يمكن للمؤسسات تمكين الكفاءات الموعودة ونتائج الأعمال الخاصة بـ LLMs بشكل أكثر كفاءة وسرعة. لمعرفة المزيد حول هذه التقنية، يمكنك العثور على مزيد من القراءة في الورقة البيضاء المصاحبة و تواصل مع Protopia AI للوصول إلى بيانات مؤسستك وتجربتها.

حول Protopia AI

Protopia AI هي شركة رائدة في حماية البيانات وتقنيات الذكاء الاصطناعي/تعلم الآلة التي تحافظ على الخصوصية، ومقرها في أوستن، تكساس، وتتخصص في تمكين خوارزميات الذكاء الاصطناعي ومنصات البرامج من العمل دون الحاجة إلى الوصول إلى معلومات النص العادي. على مدى العامين الماضيين، نجحت Protopia AI في عرض منتجها الرائد Stained Glass Transform عبر مجموعة متنوعة من حالات استخدام تعلم الآلة وأنواع البيانات مع البحرية الأمريكية والخدمات المالية الرائدة وموفري التكنولوجيا العالميين.

تعمل Protopia AI مع المؤسسات ومقدمي خدمات الذكاء الاصطناعي وLLM ومقدمي الخدمات السحابية (CSPs) لتمكين الحفاظ على ملكية وسرية بيانات المؤسسة أثناء استخدام حلول الذكاء الاصطناعي/تعلم الآلة. أبرمت Protopia AI شراكة مع AWS لتقديم مكون حاسم لحماية البيانات وملكيتها لتبني المؤسسات للذكاء الاصطناعي التوليدي، وكانت واحدة من 21 شركة ناشئة تم اختيارها للدورة الافتتاحية AWS Geneative AI Accelerator في عام 2023.

---

عن المؤلفين

بالاجي شاندراسيكاران هو نائب الرئيس لشؤون Go-to-Market وتمكين العملاء في Protopia AI، ويعمل بشكل وثيق مع العملاء للاستفادة من الذكاء الاصطناعي في أعمالهم مع إعطاء الأولوية لحماية البيانات والخصوصية. قبل انضمامه إلى Protopia AI، كان بالاجي هو قائد المنتج لحلول الذكاء الاصطناعي في Infor، حيث قام بتطوير المنتجات التي تركز على القيمة بينما كان يعمل كشريك موثوق به لعملاء المؤسسات عبر الصناعات المتنوعة. خارج العمل، يستمتع بالموسيقى والمشي لمسافات طويلة والسفر مع العائلة.

جنيفر كواجنبرج يقود الفريق الهندسي في Protopia AI ويعمل على التأكد من أن تقنية Stained Glass تلبي احتياجات عملائها لحماية بياناتهم. تتمتع جينيفر بخبرة سابقة في مجال الأمن من خلال العمل في Toyota في مجموعة المنتجات للأمن السيبراني، وإدارة أعباء العمل السحابية في N-able، والمسؤولة عن البيانات في Match.com.

أندرو سانسوم هو مهندس حلول الذكاء الاصطناعي في Protopia AI حيث يساعد المؤسسات على استخدام الذكاء الاصطناعي مع الحفاظ على المعلومات الخاصة والحساسة في بياناتها. قبل انضمامه إلى Protopia AI، عمل كمستشار فني يركز على تمكين حلول الذكاء الاصطناعي للعملاء في العديد من الصناعات بما في ذلك التمويل والتصنيع والرعاية الصحية والتعليم. كما قام بتدريس علوم الكمبيوتر والرياضيات لطلاب المدارس الثانوية والجامعات والمهنية.

إيمان الإبراهيمي، دكتوراه، هو المؤسس المشارك والرئيس التنفيذي لشركة Protopia AI. الدكتور إبراهيمي متحمس لتمكين الذكاء الاصطناعي من إثراء التجربة الإنسانية عبر مختلف القطاعات المجتمعية والصناعية. Protopia AI هي رؤية لتعزيز العدسة التي يراقب الذكاء الاصطناعي من خلالها البيانات الضرورية والجودة التي يحتاجها مع إنشاء قدرات جديدة لحماية المعلومات الحساسة. قبل انضمامه إلى Protopia AI، كان أحد كبار علماء الأبحاث في NVIDIA لمدة 9 سنوات. كان عمله في أبحاث NVIDIA يهدف إلى حل مشكلات الوصول إلى مجموعات البيانات الضخمة في ML/AI. كما شارك أيضًا في تأليف منشورات تمت مراجعتها من قبل النظراء حول كيفية الاستفادة من قوة الآلاف من وحدات معالجة الرسومات لجعل تدريب نماذج اللغات الكبيرة أمرًا ممكنًا.

روهيت تلوري هو متخصص في GTM للذكاء الاصطناعي التوليدي في Amazon Web Services (AWS). وهو يتعاون مع أفضل منشئي نماذج الذكاء الاصطناعي، والعملاء الاستراتيجيين، وشركاء الذكاء الاصطناعي/تعلم الآلة الرئيسيين، وفرق خدمة AWS لتمكين الجيل التالي من الذكاء الاصطناعي، والتعلم الآلي، والحوسبة المتسارعة على AWS. لقد كان سابقًا مهندسًا لحلول المؤسسات، ورئيسًا للحلول العالمية لاستشارات عمليات الاندماج والاستحواذ في AWS.

• محتوى مدعوم من تحسين محركات البحث وتوزيع العلاقات العامة. تضخيم اليوم.
• PlatoData.Network Vertical Generative Ai. تمكين نفسك. الوصول هنا.
• أفلاطونايستريم. ذكاء Web3. تضخيم المعرفة. الوصول هنا.
• أفلاطون كربون، كلينتك ، الطاقة، بيئة، شمسي، إدارة المخلفات. الوصول هنا.
• أفلاطون هيلث. التكنولوجيا الحيوية وذكاء التجارب السريرية. الوصول هنا.
• المصدر https://aws.amazon.com/blogs/machine-learning/foundational-data-protection-for-enterprise-llm-acceleration-with-protopia-ai/