AWS تؤكد من جديد التزامها بالذكاء الاصطناعي التوليدي المسؤول

أعاد نشره أفلاطون

المتابعون: 0

بصفتها رائدة في مجال الذكاء الاصطناعي والتعلم الآلي ، تلتزم AWS بتطوير ونشر الذكاء الاصطناعي التوليدي بشكل مسؤول

كواحد من أكثر الابتكارات التحويلية في عصرنا ، يستمر الذكاء الاصطناعي التوليدي في جذب خيال العالم ، وما زلنا ملتزمين أكثر من أي وقت مضى بتسخيرها بمسؤولية. من خلال فريق من خبراء الذكاء الاصطناعي المسؤولين المتخصصين ، تكملهم مؤسستنا الهندسية والتطويرية ، نقوم باستمرار باختبار وتقييم منتجاتنا وخدماتنا لتحديد وقياس وتخفيف المخاوف بشأن الدقة والإنصاف والملكية الفكرية والاستخدام المناسب والسمية والخصوصية. وبينما لا تتوفر لدينا جميع الإجابات اليوم ، فإننا نعمل جنبًا إلى جنب مع الآخرين لتطوير مناهج وحلول جديدة لمواجهة هذه التحديات الناشئة. نعتقد أنه بإمكاننا دفع الابتكار في مجال الذكاء الاصطناعي ، مع الاستمرار في تنفيذ الضمانات اللازمة لحماية عملائنا ومستهلكينا.

في AWS ، نعلم أن تقنية الذكاء الاصطناعي التوليدية وكيفية استخدامها ستستمر في التطور تحديات جديدة سيتطلب المزيد من الاهتمام والتخفيف. لهذا السبب تشارك Amazon بنشاط مع المنظمات والهيئات المعيارية التي تركز على التطوير المسؤول لأنظمة الذكاء الاصطناعي من الجيل التالي بما في ذلك NIST و ISO ومعهد الذكاء الاصطناعي المسؤول والشراكة حول الذكاء الاصطناعي. في الواقع ، وقعت أمازون الأسبوع الماضي في البيت الأبيض بشكل تطوعي الالتزامات لتعزيز التطوير الآمن والمسؤول والفعال لتقنية الذكاء الاصطناعي. نحن حريصون على مشاركة المعرفة مع صانعي السياسات والأكاديميين والمجتمع المدني ، لأننا ندرك أن التحديات الفريدة التي يفرضها الذكاء الاصطناعي التوليدي تتطلب تعاونًا مستمرًا.

يتوافق هذا الالتزام مع نهجنا في تطوير خدمات الذكاء الاصطناعي التوليدية الخاصة بنا ، بما في ذلك بناء النماذج الأساسية (FMs) مع مراعاة الذكاء الاصطناعي المسؤول في كل مرحلة من مراحل عملية التطوير الشاملة لدينا. من خلال التصميم والتطوير والنشر والعمليات ، فإننا نأخذ في الاعتبار مجموعة من العوامل بما في ذلك 1 / الدقة ، على سبيل المثال ، مدى تطابق الملخص مع المستند الأساسي ؛ ما إذا كانت السيرة الذاتية صحيحة من الناحية الواقعية ؛ 2 / الإنصاف ، على سبيل المثال ، ما إذا كانت النواتج تعامل المجموعات الديموغرافية على نحو مماثل ؛ 3 / الملكية الفكرية وحقوق التأليف والنشر. 4 / الاستخدام المناسب ، على سبيل المثال ، تصفية طلبات المستخدم للحصول على المشورة القانونية ، أو التشخيص الطبي ، أو الأنشطة غير القانونية ، 5 / السمية ، على سبيل المثال ، الكلام الذي يحض على الكراهية ، والألفاظ النابية ، والشتائم ؛ و 6 / الخصوصية ، على سبيل المثال ، حماية المعلومات الشخصية ومطالبات العملاء. نحن نبني حلولًا لمعالجة هذه المشكلات في عملياتنا للحصول على بيانات التدريب ، في FMs نفسها ، وفي التكنولوجيا التي نستخدمها لمعالجة مطالبات المستخدم مسبقًا ونواتج ما بعد العملية. بالنسبة لجميع خدمات إدارة المرافق لدينا ، فإننا نستثمر بنشاط لتحسين ميزاتنا وللتعلم من العملاء أثناء تجربتهم لحالات استخدام جديدة.

على سبيل المثال ، صُممت Amazon's Titan FM لاكتشاف وإزالة المحتوى الضار في البيانات التي يوفرها العملاء للتخصيص ، ورفض المحتوى غير المناسب في مدخلات المستخدم ، وتصفية مخرجات النموذج التي تحتوي على محتوى غير مناسب (مثل الكلام الذي يحض على الكراهية ، والألفاظ النابية ، والعنف) .

لمساعدة المطورين على بناء التطبيقات بمسؤولية ، أمازون CodeWhisperer يوفر متتبعًا مرجعيًا يعرض معلومات الترخيص لتوصية التعليمات البرمجية ويوفر رابطًا إلى مستودع المصدر المفتوح المقابل عند الضرورة. هذا يجعل من السهل على المطورين أن يقرروا ما إذا كانوا سيستخدمون الكود في مشروعهم وأن يجعلوا سمات كود المصدر ذات الصلة كما يرونها مناسبة. بالإضافة إلى ذلك ، تقوم Amazon CodeWhisperer بتصفية توصيات الكود التي تتضمن عبارات سامة وتوصيات تشير إلى التحيز.

من خلال خدمات مبتكرة مثل هذه ، سنواصل مساعدة عملائنا على إدراك فوائد الذكاء الاصطناعي التوليدي ، مع التعاون عبر القطاعين العام والخاص لضمان قيامنا بذلك بمسؤولية. معًا ، سنبني الثقة بين العملاء والجمهور الأوسع ، حيث نسخر هذه التكنولوجيا الجديدة التحويلية كقوة من أجل الخير.

عن المؤلف

بيتر هالينان يقود المبادرات في علم وممارسة الذكاء الاصطناعي المسؤول في AWS AI ، جنبًا إلى جنب مع فريق من خبراء الذكاء الاصطناعي المسؤولين. لديه خبرة عميقة في مجال الذكاء الاصطناعي (دكتوراه ، جامعة هارفارد) وريادة الأعمال (Blindsight ، تم بيعه إلى Amazon). تضمنت أنشطته التطوعية العمل كأستاذ استشاري في كلية الطب بجامعة ستانفورد ، ورئيس غرفة التجارة الأمريكية في مدغشقر. عندما يكون ذلك ممكنًا ، يكون في الجبال مع أطفاله: التزلج والتسلق والمشي لمسافات طويلة وركوب الرمث