ظهور خبراء المجال في التعلم العميق

جيريمي هوارد هو باحث في الذكاء الاصطناعي ومؤسس مشارك لـ fast.ai ، منصة لغير الخبراء لتعلم الذكاء الاصطناعي والتعلم الآلي. قبل بدء fast.ai ، أسس العديد من الشركات - بما في ذلك FastMail و Enlitic ، الرائدان في تطبيق التعلم العميق في المجال الطبي - وكان رئيسًا وكبير علماء منصة Kaggle للتعلم الآلي. 

في هذه المقابلة ، يناقش هوارد ما يعنيه بالنسبة للصناعات المختلفة وحتى المناطق العالمية الآن ، حيث يمكن للأشخاص الذين ليس لديهم درجة الدكتوراه من مختبرات الأبحاث المتخصصة بناء نماذج التعلم العميق والعمل معها. من بين الموضوعات الأخرى التي تندرج تحت هذه المظلة الواسعة ، يشاركه أفكاره حول أفضل السبل لمواكبة أحدث التقنيات ، والهندسة السريعة كمجموعة مهارات جديدة ، وإيجابيات وسلبيات أنظمة إنشاء الشفرات مثل Codex.

---

المستقبل: بعد تشغيل fast.ai على مدى السنوات العديدة الماضية ، ما هي التأثيرات التي تراها لوجود عدد أكبر من الأشخاص على دراية بالمفاهيم الأساسية للتعلم العميق - مقابل عدة سنوات عندما كان الأشخاص ذوو المعرفة أحادي القرن؟

جيريمي هوارد: عندما بدأنا fast.ai ، كان هناك ، بشكل أساسي ، خمسة مختبرات أبحاث جامعية مهمة تعمل على التعلم العميق - وكان الأشخاص الوحيدون الذين يعرفون كيفية القيام بأي شيء تقريبًا باستخدام التعلم العميق هم الأشخاص الذين كانوا في هذه المختبرات الخمسة أو كانوا فيها . بشكل عام ، لم يتم نشر الكود ، ناهيك عن البيانات. وحتى الصحف لم تكن تنشر تفاصيل كيفية جعلها تعمل في الممارسة ، ويرجع ذلك جزئيًا إلى أن الأماكن الأكاديمية لم تهتم كثيرًا بالتنفيذ العملي. كان شديد التركيز على النظرية. 

لذلك عندما بدأنا ، كان سؤالًا تأمليًا للغاية ، "هل من الممكن القيام بتعلم عميق على مستوى عالمي بدون الحصول على درجة الدكتوراه؟". نحن نعلم الآن أن الجواب نعم فعلا؛ أظهرنا ذلك في دورتنا الأولى. ذهب خريجينا الأوائل إلى إنشاء براءات اختراع باستخدام التعلم العميق ، لبناء شركات باستخدام التعلم العميق ، والنشر في الأماكن العليا باستخدام التعلم العميق. 

أعتقد أن سؤالك هو بالضبط السؤال الصحيح ، وهو حول ما يحدث عندما يصبح خبراء المجال ممارسين فعالين في التعلم العميق؟ هذا هو المكان الذي رأينا فيه أكثر الأشياء إثارة للاهتمام تحدث. بشكل عام ، أفضل الشركات الناشئة هي تلك التي تم إنشاؤها من قبل الأشخاص الذين لديهم شخصيًا حكة للخدش. لقد اعتادوا أن يكونوا مجندين ، لذا فهم يقومون ببدء توظيف ، أو اعتادوا أن يكونوا شبه قانونيين ، لذا فهم يقومون بمشروع قانوني ، أو أي شيء آخر. وهم ، مثل ، "أوه ، أنا أكره هذا الشيء بخصوص الوظيفة التي كنت أمارسها. والآن بعد أن عرفت عن التعلم العميق ، أعلم أنه يمكنني أتمتة هذا الأمر برمته تقريبًا ".

يقوم الكثير من طلابنا أيضًا بالحصول على درجة الدكتوراه ، ولكن ليس في الرياضيات أو علوم الكمبيوتر ؛ بدلاً من ذلك ، يفعلون ذلك في المعلوماتية الكيميائية ، أو علم البروتينات ، أو صحافة البيانات ، أو أي شيء آخر. وغالبًا ما نجد أنهم قادرون على نقل أبحاثهم إلى مستوى آخر تمامًا. على سبيل المثال ، بدأنا نرى لأول مرة ظهور بعض قواعد البيانات الكبيرة ومجموعات البيانات الخاصة بمواد المكتبات العامة على الإنترنت. وهناك أشخاص في هذا المجال - علم المكتبات - الآن يقومون بأشياء لم يخطر ببال أحد أنهم يستطيعون فعل أي شيء بهذا الحجم من قبل. لكن فجأة ، يبدو الأمر وكأنه ، "يا إلهي ، انظر إلى ما يحدث عندما تقوم بتحليل مكتبة على أنها ملف شيء". 

ألقيت محاضرة في مؤتمر تربية الحيوانات حيث كان الجميع يتحدث عن التعلم العميق. بالنسبة لي ، هذا استخدام غير واضح حقًا ، لكنه بالنسبة لهم هو الاستخدام الأكثر وضوحًا. يستخدمه الناس لحل مشاكل العالم الحقيقي باستخدام بيانات العالم الحقيقي ضمن قيود العالم الحقيقي.

يبدو من تجربتي ، على مدى السنوات القليلة الماضية ، أن التعلم العميق يمكن تطبيقه على كل صناعة إلى حد كبير - لا كل جزء من كل صناعة ولكن بعض أجزاء من إلى حد كبير كل الصناعة. 

تعرفنا على شخص كان يقوم بالكثير من الأشياء المثيرة للاهتمام بتشخيص الملاريا ، والتي ، كما يمكنك أن تتخيل ، ليست المشكلة الأولى التي كان الناس في سان فرانسيسكو يحاولون حلها.

يبدو أن انعكاس قواعد المعرفة - أصبح التعلم العميق الآن مكملاً لخبرة المجال - يمكن أن يغير التوازن بين النظرية والتطبيق.

صحيح ، ويمكنك أن ترى ذلك يحدث. كان العمل الذي قام به Google Brain من أهم الأشياء في وقت مبكر من عصر التعلم العميق ، حيث حللوا الكثير من مقاطع فيديو YouTube واكتشفوا ذلك كانت القطط عاملاً كامنًا في العديد من مقاطع الفيديو. تعلم نموذجهم التعرف على القطط لأنه رأى الكثير منهم. وهذا عمل ممتع للغاية ، لكن لم يبتعد أحد وقام ببناء شركة على هذا الأساس. 

الأشياء التي يفعلها الناس كان البناء - مرة أخرى ، مفيد ، ولكن في مناطق معينة - مثل البحث عن الصور في Google و Apple أصبح جيدًا بسرعة كبيرة لأنه يمكنك بالفعل البحث عن الأشياء التي كانت في الصور. هذا مفيد حقًا. وهذا هو نوع الأشياء التي كان الجميع يعمل عليها - إما أشياء مجردة حقًا أو أشياء حقيقية لمشكلة العالم الأول. لا حرج في ذلك ، ولكن هناك الكثير من الأشياء الأخرى التي يجب العمل عليها أيضًا. 

لذلك شعرت بسعادة غامرة عندما نظرت ، بعد عامين ، إلى التركيبة السكانية للأشخاص الذين شاركوا في مسارنا واكتشفت أن إحدى أكبر المدن خارج الولايات المتحدة كانت لاغوس [عاصمة نيجيريا]. اعتقدت أنه كان رائعًا حقًا لأن هذا المجتمع لم يكن يقوم في السابق بالتعلم العميق. سألت الأشخاص في الدورة الأولى حرفياً: "أي شخص هنا من إفريقيا؟" وأعتقد أنه كان هناك رجل واحد من ساحل العاج كان عليه أن يحرق الأشياء على قرص مضغوط في مكتبته لأنه ليس لديهم اتصال إنترنت كافٍ. لذلك نمت بسرعة كبيرة.

ثم كان الأمر رائعًا لأننا بدأنا في جلب مجموعات من الأشخاص من أوغندا وكينيا ونيجيريا جواً إلى سان فرانسيسكو للقيام بالدورة بشكل شخصي والتعرف على بعضهم البعض. تعرفنا على شخص واحد ، على سبيل المثال ، كان يقوم بالكثير من الأشياء المثيرة للاهتمام بتشخيص الملاريا ، والتي ، كما يمكنك أن تتخيل ، ليست المشكلة الأولى التي كان الناس في سان فرانسيسكو يحاولون حلها.

أشعر أن وجود 16 نموذجًا مختلفًا للغة كبيرة تم تدريبهم على 5٪ من الإنترنت يشبه وجود 16 أنبوبًا للمياه تدخل منزلك و 16 مجموعة من الكابلات الكهربائية تدخل منزلك. 

كيف يبدو المسار الوظيفي العادي لشخص يخرج من برنامج التعلم العميق مثل برنامجك؟

إنه متنوع للغاية. لقد تغير حقًا كثيرًا منذ الأيام الأولى ، عندما كانت مجرد عقلية فائقة التبني في وقت مبكر - الأشخاص الذين كانوا إلى حد كبير إما رواد أعمال أو دكتوراه وأوائل ما بعد الدكتوراة ، والذين يحبون فقط الأبحاث المتطورة وتجربة أشياء جديدة. لم يعد الأمر يقتصر على المتبنين الأوائل بعد الآن ، بل أيضًا الأشخاص الذين يحاولون اللحاق بالطريقة التي تتحرك بها صناعتهم أو مواكبة ذلك.

في الوقت الحاضر ، كثير منهم هم من مثل ، "أوه ، يا إلهي ، أشعر أن التعلم العميق بدأ في تدمير الخبرة في مجال عملي. يقوم الناس بأشياء مع القليل من التعلم العميق الذي لا يمكنني حتى تصوره ، ولا أريد أن أفوت ذلك. " يتطلع بعض الأشخاص إلى الأمام قليلاً ، وهم أكثر ، مثل ، "حسنًا ، لا أحد يستخدم التعلم العميق حقًا في مجال عملي ، لكن لا يمكنني تخيل أنه صورة واحدة؟ الصناعة التي ليس سوف تتأثر ، لذلك أريد أن أكون الأول ". 

بعض الناس لديهم بالتأكيد فكرة عن شركة يريدون بناءها. 

الشيء الآخر الذي نحصل عليه كثيرًا هو قيام الشركات بإرسال مجموعة من فرق البحث أو الهندسة الخاصة بهم للقيام بالدورة لمجرد أنهم يشعرون أن هذه قدرة مؤسسية يجب أن يمتلكوها. وهي مفيدة بشكل خاص مع واجهات برمجة التطبيقات الموجودة على الإنترنت والتي يمكن للأشخاص اللعب بها - مجموعة مخطوطات or لوح أو أيا كان - والحصول على فكرة ، "أوه ، هذا يشبه إلى حد ما شيئًا أقوم به في وظيفتي ، لكن الأمر مختلف بعض الشيء إذا كان بإمكاني تعديله بهذه الطرق." 

ومع ذلك ، فإن هذه النماذج لها أيضًا آثار جانبية مؤسفة ، ربما ، تتمثل في زيادة ميل الناس للشعور بأن ابتكار الذكاء الاصطناعي مخصص فقط للشركات الكبيرة ، وأنه خارج قدراتهم. قد يختارون أن يكونوا مستهلكين سلبيين للتكنولوجيا لأنهم لا يعتقدون أن لديهم أي قدرة على بناء شيء شخصي يكون أفضل مما قد تقوم Google أو OpenAI ببنائه.

النموذج الذي يقرر ما إذا كنت تحب فيلمًا أم لا والنموذج الذي يمكن أن يولد الهايكوس سيكون 98٪ متماثلًا. . . من النادر جدًا أن نحتاج بالفعل إلى تدريب نموذج ضخم من الصفر على مساحة شاسعة من الإنترنت.

حتى لو كان هذا هو الحال - إذا كنت لا تستطيع أن تتفوق على OpenAI أو Google - فمن المؤكد أن هناك طريقة للاستفادة مما فعلوه ، من وصول API إلى نماذج قوية بشكل لا يصدق ، أليس كذلك؟

أول شيء يجب قوله هو هذا ليس صحيحا، ليس بمعنى عام ، على الأقل. هناك تشعب معين لتدريب الذكاء الاصطناعي يجري الآن: هناك جانب Google و OpenAI ، والذي يدور حول إنشاء نماذج عامة قدر الإمكان ، ودائمًا ما يكون هؤلاء الباحثون على وجه التحديد هدفهم في الوصول إلى الذكاء الاصطناعي العام. أنا لا أعلق سواء كان ذلك جيدًا أو سيئًا ؛ إنه بالتأكيد ينتج عنه قطع أثرية مفيدة لنا كأشخاص عاديين ، لذلك لا بأس بذلك. 

ومع ذلك ، هناك مسار مختلف تمامًا ، وهو المسار الذي يسلكه جميع طلابنا تقريبًا ، وهو: "كيف يمكنني حل مشكلات العالم الواقعي للأشخاص في مجتمعي بطريقة واقعية بقدر الإمكان؟" وهناك تداخل أقل بكثير مما تعتقد بين الطريقتين ، مجموعتي البيانات ، والتقنيتين.

في عالمي ، لا ندرب أبدًا نموذجًا من الصفر ، في الأساس. إنه دائمًا ما يتم ضبطه. لذلك نحن بالتأكيد نستفيد من عمل اللاعبين الكبار ، لكنه دائمًا نماذج متاحة مجانًا وقابلة للتنزيل. أشياء مثل نماذج اللغات الكبيرة مفتوحة المصدر من خلال بيجساينس مفيد جدًا لذلك. 

ومع ذلك ، فمن المحتمل أنهم سيتخلفون 6 إلى 12 شهرًا خلف اللاعبين الكبار حتى ، ربما ، نجد طريقة أكثر ديمقراطية للقيام بذلك. أشعر أن وجود 16 نموذجًا مختلفًا للغة كبيرة تم تدريبهم على 5٪ من الإنترنت يشبه وجود 16 أنبوبًا للمياه تدخل منزلك و 16 مجموعة من الكابلات الكهربائية تدخل منزلك. يبدو أنه يجب أن يكون أكثر من منفعة عامة. إنه لأمر رائع أن تكون لدينا منافسة ، ولكن سيكون من الجيد أيضًا أن يكون هناك تعاون أفضل ، لذلك لم يكن علينا جميعًا أن نضيع وقتنا في فعل الشيء نفسه.

لذا ، نعم ، انتهى بنا الأمر إلى ضبط النماذج التي بناها الآخرون ، لأغراضنا الخاصة. وهو يشبه إلى حد ما كيف أن الجينوم البشري وجينوم القرد متماثلان تمامًا تقريبًا ، باستثناء نسبة قليلة هنا وهناك ، والتي تبين بالفعل أنها تحدث فرقًا كبيرًا. إنه نفس الشيء مع الشبكات العصبية: النموذج الذي يقرر ما إذا كنت تحب فيلمًا أم لا والنموذج الذي يمكنه توليد الهايكوس سيكون 98 ٪ لأن معظم ذلك يتعلق بفهم العالم وفهم اللغة والأشياء . من النادر جدًا أن نحتاج بالفعل إلى تدريب نموذج ضخم من الصفر على مساحة شاسعة من الإنترنت.

وهذا هو السبب في أنك بالتأكيد يمكن تنافس مع Google و OpenAI - لأنهم ربما لن يكونوا في مساحتك الخاصة. إذا كنت تحاول إنشاء شيء لأتمتة عمل المساعدين القانونيين ، أو المساعدة في التخطيط لمواجهة الكوارث ، أو توليد فهم أفضل للغة الجنسانية على مدار المائة عام الماضية أو أي شيء آخر ، فأنت لا تتنافس مع Google ، فأنت تنافس مع هذا المكانة الموجودة في مجالك.

هناك مهارة تشفير مهمة الآن في معرفة كيفية العمل بشكل أسرع. . . من خلال كونك جيدًا حقًا في الخروج بتعليقات الدستور الصحيحة. . . بالنسبة لكثير من الناس ، من المحتمل أن يكون هذا أمرًا أكثر قيمة وفوريًا للتعلم من أن تصبح جيدًا حقًا في البرمجة.

ما مدى أهمية مواكبة جميع التطورات في مجال الذكاء الاصطناعي ، خاصة إذا كنت تعمل معه على نطاق أصغر؟

لا أحد يستطيع مواكبة كل التطورات. عليك مواكبة بعض تقدم ، لكن التقنيات الفعلية التي نعمل معها تتغير ، في الوقت الحاضر ، ببطء شديد. كان مقدار الاختلاف بين دورة fast.ai لعام 2017 ودورة fast.ai لعام 2018 كبيرًا ، وبين دورات 2018 و 2019 كان الفرق شاسعًا-العش. في الوقت الحاضر ، تغيرات قليلة جدًا على مدار عامين.

الأشياء التي نعتقد أنها مهمة حقًا ، مثل صعود هندسة المحولات، على سبيل المثال ، هو في الواقع يبلغ من العمر بضع سنوات وهو في الأساس مجرد مجموعة من طبقات الشبكة العصبية المحصورة والموجودة إلى الأمام ، وبعض نقطة المنتجات. إنه أمر رائع ، لكن بالنسبة لشخص يريد أن يفهمه ، ويفهمه بالفعل كونفنيتس, شبكات متكررةوأساسي تصورات متعددة الطبقات، إنها مثل بضع ساعات من العمل.

أحد الأشياء الكبيرة التي حدثت في العامين الماضيين هو أن المزيد من الناس بدأوا في فهم الجوانب العملية لكيفية تدريب النموذج بشكل فعال. على سبيل المثال ، DeepMind مؤخرًا أصدرت ورقة التي أظهرت بشكل أساسي أن جميع النماذج اللغوية الموجودة هناك كانت أقل كفاءة بشكل كبير مما ينبغي ، حرفيًا لأنها لم تكن تقوم ببعض الأشياء الأساسية. Facebook - وعلى وجه التحديد ، كان المتدرب على Facebook هو المؤلف الرئيسي على الورقة - قام ببناء شيء يسمى كونفنيكست، وهو ما يقول في الأساس ، "هذا ما يحدث إذا أخذنا شبكة عصبية تلافيفية عادية ووضعنا التعديلات الواضحة التي يعرفها الجميع." وهم في الأساس أحدث نموذج للصور الآن. 

لذا ، نعم ، البقاء على اطلاع دائم بالأساسيات الأساسية لكيفية بناء نماذج تعلم عميق جيدة هو طريقة أقل صعوبة مما يبدو. وأنت بالتأكيد لست مضطرًا لقراءة كل ورقة في هذا المجال. على وجه الخصوص في هذه المرحلة ، الآن حيث أن الأمور تسير بسرعة أقل بكثير.

لكنني أعتقد أنه من المفيد أن يكون لديك فهم واسع ، وليس فقط لمنطقتك الخاصة. لنفترض أنك شخص يتمتع برؤية الكمبيوتر ، من المفيد جدًا أن تكون جيدًا في البرمجة اللغوية العصبية والتصفية التعاونية والتحليل الجدولي أيضًا - والعكس صحيح لأنه لا يوجد تقريبًا ما يكفي من التلقيح المتبادل بين هذه المجموعات. ومن وقت لآخر ، شخص ما يلقي نظرة خاطفة على منطقة أخرى ، ويسرق بعض أفكاره ، ويخرج بنتيجة مذهلة. 

هذا بالضبط ما فعلته به أولمفيت قبل أربع أو خمس سنوات. قلت ، "دعونا نطبق جميع تقنيات التعلم الأساسية لنقل الرؤية الحاسوبية إلى البرمجة اللغوية العصبية" ، وحصلت على نتيجة متطورة بأميال. الباحثون في OpenAI فعل شيئًا مشابهًا، ولكن استبدلت RNN بمحول وقمت بتوسيعه ، وأصبح ذلك GPT. كلنا نعرف كيف سارت الأمور. 

البقاء على اطلاع بالأساسيات التأسيسية لكيفية بناء نماذج تعلم عميق جيدة هو طريقة أقل صعوبة مما يبدو. وأنت بالتأكيد لست مضطرًا لقراءة كل ورقة في هذا المجال.

لقد ذكرت أننا رأينا تحولًا تدريجيًا في وظيفة الذكاء الاصطناعي في الأشهر الثلاثة إلى الستة الماضية. يمكنك وضع على ذلك؟

كنت أسميها في الواقع أ صنارة صيد خير من وظيفة الخطوة. أعتقد أننا على منحنى أسي ، ومن وقت لآخر ، يمكنك أن تلاحظ أن الأمور بدت وكأنها تتسارع بشكل ملحوظ. ما يجب علينا فعله هو أن النماذج المدربة مسبقًا والمدربة على مجموعات كبيرة جدًا من النصوص والصور يمكنها الآن القيام بأشياء رائعة للغاية من لقطة واحدة أو لقطات قليلة بطرق عامة إلى حد ما ، ويرجع ذلك جزئيًا إلى تحسن الأشخاص في الأشهر القليلة الماضية في الفهم الهندسة السريعة. بشكل أساسي ، معرفة كيفية طرح السؤال الصحيح - أنواع المحفزات "اشرح أسبابك" خطوة بخطوة. 

ونحن نكتشف أن هذه النماذج قادرة في الواقع على القيام بأشياء يخبرنا بها الكثير من الأكاديميين أنها ليست ممكنة من حيث الفهم التركيبي للعالم والقدرة على إظهار التفكير خطوة بخطوة. كان الكثير من الناس يقولون ، "أوه ، عليك استخدام تقنيات رمزية ؛ لن تصل الشبكات العصبية والتعلم العميق إلى هناك أبدًا ". حسنًا ، اتضح أنهم يفعلون ذلك. أعتقد أنه عندما يمكننا جميعًا أن نرى أنه يمكنه فعل هذه الأشياء التي كان الناس يدعون أنها لا تستطيع فعلها أبدًا ، يجعلنا أكثر جرأة بشأن محاولة فعل المزيد معهم.

يذكرني ذلك للمرة الأولى التي شاهدت فيها مقطع فيديو على الإنترنت ، والذي أتذكر أنه عرضه على أمي لأنه كان مقطع فيديو للعلاج الطبيعي ، وهي أخصائية علاج طبيعي. لقد كان مقطع فيديو لتمرين حركة مشترك في كتفك ، وأعتقد أنه كان 128 × 128 بكسل. كان باللونين الأبيض والأسود ، مضغوط للغاية ، وربما يبلغ طوله حوالي 3 أو 4 ثوانٍ. كنت متحمسة للغاية ، وقلت لأمي ، "واو ، انظر إلى هذا: مقطع فيديو على الإنترنت!" وبالطبع لم تكن متحمسة على الإطلاق. كانت مثل ، "ما فائدة ذلك؟ هذا هو أكثر شيء عبثي رأيته في حياتي ".

بالطبع ، كنت أفكر أنه في يوم من الأيام سيكون هذا الفيديو ألف في ألف بكسل ، 60 إطارًا في الثانية ، بالألوان الكاملة ، فيديو جميل. الدليل موجود ، والآن ينتظر البقية اللحاق بالركب. 

لذلك أعتقد أنه عندما رأى الناس الصور منخفضة الجودة حقًا من التعلم العميق في الأيام الأولى ، لم يكن هناك الكثير من الإثارة لأن معظم الناس لا يدركون أن مثل هذه المقاييس التكنولوجية. الآن بعد أن أصبح بإمكاننا إنتاج صور عالية الجودة بالألوان الكاملة تبدو أفضل بكثير مما يمكن لأي منا تقريبًا تصويره أو تصويره ، لا يحتاج الناس إلى أي خيال. يمكنهم فقط انظر تعريف أن ما يتم فعله الآن مثير للإعجاب. أعتقد أن هذا يحدث فرقًا كبيرًا.

أشعر أن HCI هو أكبر جزء مفقود في كل مشروع تعلم عميق رأيته تقريبًا. . . إذا كنت في HCI ، كنت أرغب في تركيز مجالي بأكمله على مسألة كيفية تفاعلنا مع خوارزميات التعلم العميق.

إن فكرة الهندسة السريعة - إن لم تكن مهنة جديدة بالكامل ، ولكن على الأقل كمجموعة مهارات جديدة - هي حقًا مثيرة للاهتمام حقًا.

إنه كذلك ، وأنا فظيع في ذلك. على سبيل المثال ، DALL-E لا يعرف حقًا كيفية كتابة النص بشكل صحيح ، وهو ما لن يكون مشكلة إلا أنه يحب وضع النص في جميع صوره الدموية. لذلك هناك دائمًا هذه الرموز العشوائية ولا يمكنني ، طوال حياتي ، اكتشاف كيفية الخروج بموجه لا يحتوي على نص فيه. وبعد ذلك في بعض الأحيان ، سأغير كلمة بشكل عشوائي هنا أو هناك ، وفجأة ، لم يعد لدى أي منهم نص بعد الآن. هناك بعض الحيلة في هذا الأمر ، ولم أحسبها بعد.

أيضًا ، على سبيل المثال ، هناك مهارة تشفير مهمة في الوقت الحالي في معرفة كيفية العمل بشكل أسرع - خاصة إذا لم تكن مبرمجًا جيدًا بشكل خاص - من خلال كونك جيدًا حقًا في الخروج بتعليقات Codex الصحيحة لجعلها تولد أشياء لك . ومعرفة أنواع الأخطاء التي تميل إلى ارتكابها ، وأنواع الأشياء الجيدة والسيئة فيها ، ومعرفة كيفية الحصول عليها لإنشاء اختبار للشيء الذي تم إنشاؤه من أجلك.

بالنسبة لكثير من الناس ، من المحتمل أن يكون هذا أمرًا أكثر قيمة وفوريًا للتعلم من أن تصبح جيدًا حقًا في البرمجة.

على وجه التحديد فيما يتعلق بالدستور الغذائي ، ما هي أفكارك حول فكرة إنشاء الكود آليًا؟

I كتب وظيفة مدونة عليه عندما ظهر GitHub Copilot ، في الواقع. في ذلك الوقت ، كنت مثل ، "واو ، هذا رائع حقًا ومثير للإعجاب ، لكنني لست متأكدًا تمامًا من مدى فائدته." وما زلت غير متأكد.

أحد الأسباب الرئيسية هو أنني أعتقد أننا جميعًا نعلم أن نماذج التعلم العميق لا تفهم ما إذا كانت صحيحة أم خاطئة. لقد تحسن الدستور الغذائي كثيرًا منذ أن راجعت نسخته الأولى، لكنه لا يزال يكتب الكثير من التعليمات البرمجية الخاطئة. أيضًا ، يكتب رمزًا مطولًا لأنه يولد المتوسط الشفرة. بالنسبة لي ، فإن أخذ متوسط ​​الكود وتحويله إلى رمز أحبه وأعلم أنه صحيح هو أبطأ بكثير من مجرد كتابته من الصفر - على الأقل في اللغات التي أعرفها جيدًا. 

لكني أشعر أن هناك سؤالاً كاملاً حول واجهة الإنسان والحاسوب (HCI) هنا ، و أشعر أن HCI هو أكبر جزء مفقود في كل مشروع تعلم عميق رأيته تقريبًا: تقريبًا لا تفعل هذه الأشياء تمامًا لتحل محل البشر. لذلك نحن نعمل سويا بهذه الخوارزميات. إذا كنت في HCI ، كنت أرغب في تركيز مجالي بأكمله على مسألة كيفية تفاعلنا مع خوارزميات التعلم العميق. نظرًا لأن لدينا عقودًا من تعلم كيفية التفاعل مع واجهات المستخدم الرسومية وواجهات سطر الأوامر وواجهات الويب ، لكن هذا شيء مختلف تمامًا. 

وأنا لا أعرف كيف أتفاعل بشكل أفضل كمبرمج مع شيء مثل Codex. أراهن أن هناك طرقًا قوية حقًا للقيام بذلك في كل منطقة - إنشاء واجهات وبيانات ملزمة ، وبناء خوارزميات ، وما إلى ذلك - لكن ليس لدي أي فكرة عن ماهية هذه الأشياء.

تم النشر في 21 يوليو 2022