محولات الرؤية الكمومية

محولات الرؤية الكمومية

الأمين الشراط1، يوردانيس كيرينيديس1,2، ناتانش ماتور1,2, جوناس لاندمان3,2مارتن ستراهم4ويون إيفونا لي4

1IRIF، CNRS – جامعة باريس سيتي، فرنسا
2QC Ware ، بالو ألتو ، الولايات المتحدة الأمريكية وباريس ، فرنسا
3كلية المعلوماتية، جامعة إدنبرة، اسكتلندا، المملكة المتحدة
4F. هوفمان لاروش إيه جي

تجد هذه الورقة مثيرة للاهتمام أو ترغب في مناقشة؟ Scite أو ترك تعليق على SciRate.

ملخص

في هذا العمل، تم تصميم المحولات الكمومية وتحليلها بالتفصيل من خلال توسيع بنية الشبكة العصبية للمحولات الكلاسيكية الحديثة المعروفة بأداءها العالي في معالجة اللغة الطبيعية وتحليل الصور. بناءً على العمل السابق، الذي يستخدم دوائر كمومية ذات معلمات لتحميل البيانات والطبقات العصبية المتعامدة، نقدم ثلاثة أنواع من المحولات الكمومية للتدريب والاستدلال، بما في ذلك محول كمومي يعتمد على مصفوفات مركبة، مما يضمن ميزة نظرية لآلية الاهتمام الكمومي. مقارنة بنظيرتها الكلاسيكية من حيث وقت التشغيل المقارب وعدد معلمات النموذج. يمكن بناء هذه البنى الكمومية باستخدام دوائر كمومية ضحلة وإنتاج نماذج تصنيف مختلفة نوعيًا. تختلف طبقات الاهتمام الكمي الثلاث المقترحة على الطيف بين المتابعة الدقيقة للمحولات الكلاسيكية وإظهار المزيد من الخصائص الكمومية. كوحدات بناء للمحول الكمي، نقترح طريقة جديدة لتحميل مصفوفة كحالات كمومية بالإضافة إلى طبقتين كميتين متعامدتين جديدتين قابلتين للتدريب وقابلتين للتكيف مع مستويات مختلفة من الاتصال وجودة أجهزة الكمبيوتر الكمومية. لقد أجرينا عمليات محاكاة واسعة النطاق للمحولات الكمومية على مجموعات بيانات الصور الطبية القياسية التي أظهرت أداءً تنافسيًا، وفي بعض الأحيان أفضل مقارنة بالمعايير الكلاسيكية، بما في ذلك محولات الرؤية الكلاسيكية الأفضل في فئتها. تتطلب المحولات الكمومية التي قمنا بتدريبها على مجموعات البيانات صغيرة الحجم هذه معلمات أقل مقارنة بالمعايير الكلاسيكية القياسية. وأخيرًا، قمنا بتطبيق محولاتنا الكمومية على أجهزة كمبيوتر كمومية فائقة التوصيل وحصلنا على نتائج مشجعة لما يصل إلى ست تجارب على الكيوبت.

في هذه الدراسة، نستكشف إمكانات الحوسبة الكمومية لتعزيز بنيات الشبكات العصبية، مع التركيز على المحولات المعروفة بفعاليتها في مهام مثل معالجة اللغة وتحليل الصور. نقدم ثلاثة أنواع من المحولات الكمومية، مع الاستفادة من الدوائر الكمومية ذات المعلمات والطبقات العصبية المتعامدة. يمكن لهذه المحولات الكمومية، في ظل بعض الافتراضات (مثل اتصال الأجهزة)، أن توفر نظريًا مزايا مقارنة بنظيراتها الكلاسيكية من حيث وقت التشغيل ومعلمات النموذج. لإنشاء هذه الدوائر الكمومية، نقدم طريقة جديدة لتحميل المصفوفات كحالات كمومية ونقدم طبقتين متعامدتين كميتين قابلتين للتدريب وقابلتين للتكيف مع قدرات الكمبيوتر الكمومية المختلفة. فهي تتطلب دوائر كمومية ضحلة، ويمكن أن تساعد في إنشاء نماذج تصنيف ذات خصائص فريدة. تُظهر عمليات المحاكاة الشاملة لمجموعات بيانات الصور الطبية أداءً تنافسيًا مقارنة بالمعايير الكلاسيكية، حتى مع وجود معلمات أقل. بالإضافة إلى ذلك، فإن التجارب على أجهزة الكمبيوتر الكمومية فائقة التوصيل تسفر عن نتائج واعدة.

► بيانات BibTeX

ferences المراجع

[1] جاكوب بيامونتي وبيتر ويتيك ونيكولا بانكوتي وباتريك ريبنتروست وناثان ويب وسيث لويد. "التعلم الآلي الكمي". طبيعة 549 ، 195-202 (2017).
الشبكي: / / doi.org/ 10.1038 / nature23474

[2] إيريس كونغ وسونون تشوي وميخائيل دي لوكين. "الشبكات العصبية الكمومية التلافيفية". فيزياء الطبيعة 15 ، 1273-1278 (2019).
https:/​/​doi.org/​10.1038/​s41567-019-0648-8

[3] كيشور بهارتي ، ألبا سيرفيرا-ليرتا ، ثي ها كياو ، توبياس هوغ ، سومنر ألبرين-ليا ، أبهيناف أناند ، ماتياس ديغروت ، هيرماني هيمونين ، جاكوب إس كوتمان ، تيم مينكي ، وآخرون. "خوارزميات الكم متوسطة الحجم صاخبة". تقييمات Modern Physics 94، 015004 (2022).
الشبكي: / / doi.org/ 10.1103 / RevModPhys.94.015004

[4] ماركو سيريزو ، أندرو أراسميث ، رايان بابوش ، سيمون سي بنيامين ، سوجورو إندو ، كيسوكي فوجي ، جارود آر ماكلين ، كوسوكي ميتاراي ، شياو يوان ، لوكاس سينسيو ، وآخرون. "خوارزميات الكم المتغيرة". مراجعات الطبيعة فيزياء 3 ، 625-644 (2021).
https:/​/​doi.org/​10.1038/​s42254-021-00348-9

[5] جوناس لاندمان، ناتانش ماثور، يون إيفونا لي، مارتن سترام، سكاندر كازداغلي، أنوبام براكاش، ويوردانيس كيرينيديس. "الطرق الكمومية للشبكات العصبية وتطبيقها على تصنيف الصور الطبية". الكم 6، 881 (2022).
https:/​/​doi.org/​10.22331/​q-2022-12-22-881

[6] بوباك كياني، راندال باليستريرو، يان ليكون، وسيث لويد. "projunn: طريقة فعالة لتدريب الشبكات العميقة باستخدام المصفوفات الوحدوية". التقدم في أنظمة معالجة المعلومات العصبية 35، 14448-14463 (2022).

[7] أشيش فاسواني ، نعوم شازير ، نيكي بارمار ، جاكوب أوسكوريت ، ليون جونز ، أيدان إن جوميز ، لوكاس كايزر ، وإيليا بولوسوخين. "الاهتمام هو كل ما تحتاجه". التطورات في أنظمة معالجة المعلومات العصبية 30 (2017).

[8] جاكوب ديفلين، مينغ وي تشانغ، كينتون لي، وكريستينا توتانوفا. "بيرت: التدريب المسبق للمحولات العميقة ثنائية الاتجاه لفهم اللغة" (2018).

[9] أليكسي دوسوفيتسكي، لوكاس باير، ألكسندر كولسنيكوف، ديرك فايسنبورن، شياوهوا تشاي، توماس أونترثينر، مصطفى دهقاني، ماتياس مينديرر، جورج هيغولد، سيلفان جيلي، جاكوب أوزكوريت، ونيل هولزبي. "الصورة تساوي 16 × 16 كلمة: محولات للتعرف على الصور على نطاق واسع". المؤتمر الدولي لتمثيلات التعلم (2021). عنوان url: openreview.net/​forum?id=YicbFdNTTy.
https://​/openreview.net/​forum?id=YicbFdNTTy

[10] يي تاي، ومصطفى دهقاني، ودارا بحري، ودونالد ميتزلر. “المحولات الفعالة: دراسة استقصائية”. مسوحات الحوسبة ACM (CSUR) (2020).
الشبكي: / / doi.org/ 10.1145 / 3530811

[11] ديمتري بهداناو، وكيونغهيون تشو، ويوشوا بينجيو. "الترجمة الآلية العصبية من خلال التعلم المشترك للمحاذاة والترجمة" (2016). أرخايف:1409.0473 [CS، stat].
أرخايف: 1409.0473

[12] جي شميدهوبر. "تقليل النسبة بين تعقيد التعلم وعدد المتغيرات الزمنية المتغيرة في الشبكات المتكررة بالكامل". في ستان جيلين وبيرت كابين، محرري ICANN '93. الصفحات 460-463. لندن (1993). سبرينغر.
https:/​/​doi.org/​10.1007/​978-1-4471-2063-6_110

[13] يورغن شميدهوبر. "تعلم التحكم في الذكريات سريعة الوزن: بديل للشبكات الديناميكية المتكررة". الحساب العصبي 4، 131-139 (1992).
الشبكي: / / doi.org/ 10.1162 / neco.1992.4.1.131

[14] بيتر تشا، وبول جينسبارج، وفيليكس وو، وخوان كاراسكويلا، وبيتر إل ماكماهون، وإيون آه كيم. “التصوير المقطعي الكمي القائم على الاهتمام”. التعلم الآلي: العلوم والتكنولوجيا 3، 01LT01 (2021).
https: / / doi.org / 10.1088 / 2632-2153 / ac362b

[15] ريكاردو دي سيبيو، وجيا هونغ هوانغ، وصموئيل ين تشي تشين، وستيفانو مانجيني، ومارسيل ورينغ. “فجر معالجة اللغة الطبيعية الكمومية”. في ICASSP 2022-2022 مؤتمر IEEE الدولي للصوتيات ومعالجة الكلام والإشارات (ICASSP). الصفحات 8612-8616. معهد مهندسي الكهرباء والإلكترونيات (2022).
https://​/​doi.org/​10.1109/​ICASSP43922.2022.9747675

[16] جوانجشي لي، شوانكيانج تشاو، وشين وانج. "الشبكات العصبية الكمومية ذاتية الاهتمام لتصنيف النص" (2022).

[17] فابيو سانشيز، شون واينبرج، تاكانوري إيدي، كازوميتسو كاميا. "الدوائر الكمومية القصيرة في سياسات التعلم المعزز لمشكلة توجيه المركبات". المراجعة البدنية أ 105، 062403 (2022).
الشبكي: / / doi.org/ 10.1103 / PhysRevA.105.062403

[18] يوانفو يانغ ومين صن. “الكشف عن عيوب أشباه الموصلات عن طريق التعلم العميق الهجين الكلاسيكي الكمي”. صفحات CVPRPs 2313-2322 (2022).
https: / / doi.org/ 10.1109 / CVPR52688.2022.00236

[19] ماكسويل هندرسون، سامريدهي شاكيا، شاشيندرا برادان، وتريستان كوك. “الشبكات العصبية الكمية: تعزيز التعرف على الصور باستخدام الدوائر الكمومية”. ذكاء الآلة الكمومية 2، 1–9 (2020).
الشبكي: / / doi.org/ 10.1007 / s42484-020-00012 ذ

[20] إدوارد فارحي وهارتموت نيفين. "التصنيف مع الشبكات العصبية الكمومية على معالجات المدى القريب" (2018). url: doi.org/ 10.48550 / arXiv.1802.06002.
https: / / doi.org/10.48550 / arXiv.1802.06002

[21] Kosuke Mitarai و Makoto Negoro و Masahiro Kitagawa و Keisuke Fujii. "تعلم دائرة الكم". مراجعة البدنية أ 98 ، 032309 (2018).
الشبكي: / / doi.org/ 10.1103 / PhysRevA.98.032309

[22] Kui Jia و Shuai Li و Yuxin Wen و Tongliang Liu و Dacheng Tao. "الشبكات العصبية العميقة المتعامدة". معاملات IEEE على تحليل الأنماط وذكاء الآلة (2019).
الشبكي: / / doi.org/ 10.1109 / TPAMI.2019.2948352

[23] روجر إيه هورن وتشارلز آر جونسون. “تحليل المصفوفة”. صحافة جامعة كامبرج. (2012).
الشبكي: / / doi.org/ 10.1017 / CBO9780511810817

[24] يوردانيس كيرينيديس وأنوبام براكاش. “التعلم الآلي الكمي مع حالات الفضاء الجزئي” (2022).

[25] بروكس فوكسين، تشارلز نيل، أندرو دونسوورث، بيدرام روشان، بن تشيارو، أنتوني ميجرانت، جوليان كيلي، زيجون تشين، كيفن ساتزينجر، رامي باريندز، وآخرون. “إظهار مجموعة متواصلة من البوابات ثنائية الكيوبت لخوارزميات الكم على المدى القريب”. رسائل المراجعة البدنية 125، 120504 (2020).
الشبكي: / / doi.org/ 10.1103 / PhysRevLett.125.120504

[26] سونيكا جوهري، شانتانو ديبناث، أفيناش موشيرلا، ألكسندروس سينغك، أنوبام براكاش، جونغسانغ كيم، ويوردانيس كيرينيديس. “أقرب تصنيف للنقطه الوسطى على كمبيوتر الكم الأيوني المحاصر”. npj معلومات الكم 7، 122 (2021).
https:/​/​doi.org/​10.1038/​s41534-021-00456-5

[27] جيمس دبليو كولي وجون دبليو توكي. "خوارزمية الحساب الآلي لسلسلة فورييه المعقدة". رياضيات الحساب 19، 297-301 (1965).
https:/​/​doi.org/​10.1090/​S0025-5718-1965-0178586-1

[28] لي جينغ، يتشن شين، تينا دوبتشيك، جون بيوريفوي، سكوت أ. سكيرلو، يان ليكون، ماكس تيجمارك، ومارين سولجاسيتش. "الشبكات العصبية الوحدوية ذات الكفاءة القابلة للضبط (eunn) وتطبيقاتها على rnns". في المؤتمر الدولي للتعلم الآلي. (2016). عنوان URL: api.semanticscholar.org/CorpusID:5287947.
https: / / api.semanticscholar.org/ CorpusID: 5287947

[29] ليو مونبروسو، وجوناس لاندمان، وأليكس بي جريلو، ورومان كوكلا، وإلهام كاشفي. "قابلية التدريب والتعبير عن الدوائر الكمومية ذات الوزن الزائد للتعلم الآلي" (2023). أرخايف:2309.15547.
أرخايف: 2309.15547

[30] إنريكو فونتانا، ديلان هيرمان، شوفانيك تشاكرابارتي، نيراج كومار، رومينا يالوفيتزكي، جيمي هيريدج، شري هاري سوريشبابو، وماركو بيستويا. "المجاور هو كل ما تحتاجه: توصيف الهضاب القاحلة في الكم Ansätze" (2023). أرخايف:2309.07902.
أرخايف: 2309.07902

[31] مايكل راجون، بوجكو ن. باكالوف، فريديريك سوفاج، ألكسندر ف. كيمبر، كارلوس أورتيز ماريرو، مارتن لاروكا، وم. سيريزو. "نظرية موحدة للهضاب القاحلة للدوائر الكمومية العميقة" (2023). أرخايف:2309.09342.
أرخايف: 2309.09342

[32] Xuchen أنت وشياودي وو. “عدد كبير من الحد الأدنى المحلي في الشبكات العصبية الكمومية”. في المؤتمر الدولي للتعلم الآلي. الصفحات 12144-12155. PMLR (2021).

[33] إريك ر. أنشويتز وبوباك توسي كياني. “الخوارزميات التباينية الكمومية مليئة بالفخاخ”. اتصالات الطبيعة 13 (2022).
https:/​/​doi.org/​10.1038/​s41467-022-35364-5

[34] تولستيخين، نيل هولسبي، ألكسندر كولسنيكوف، لوكاس باير، شياوهوا تشاي، توماس أونترثينر، جيسيكا يونج، دانييل كيسرز، جاكوب أوزكوريت، ماريو لوسيتش، وأليكسي دوسوفيتسكي. "Mlp-mixer: بنية شاملة للرؤية". في نيوريبس. (2021).

[35] جيانتشنغ يانغ وروي شي وبينغبينغ ني. "العشاري لتصنيف Medmnist: معيار آلي خفيف الوزن لتحليل الصور الطبية" (2020).
https: / / doi.org/ 10.1109 / ISBI48211.2021.9434062

[36] جيانتشنغ يانغ، روي شي، دونجلاي وي، زيكوان ليو، لين تشاو، بيليان كي، هانسبيتر فيستر، وبينجبينج ني. "Medmnist v2 - معيار خفيف الوزن واسع النطاق لتصنيف الصور الطبية الحيوية ثنائية وثلاثية الأبعاد". البيانات العلمية 2، 3 (10).
https:/​/​doi.org/​10.1038/​s41597-022-01721-8

[37] أنجيلوس كاثاروبولوس، وأبورف فياس، ونيكولاوس باباس، وفرانسوا فلوريت. "المحولات هي rnns: محولات الانحدار الذاتي السريعة ذات الاهتمام الخطي". في المؤتمر الدولي للتعلم الآلي. الصفحات 5156-5165. بي إم إل آر (2020).

[38] جيمس برادبري، روي فروستيج، بيتر هوكينز، ماثيو جيمس جونسون، كريس ليري، دوجال ماكلورين، جورج نيكولا، آدم باسزكي، جيك فاندربلاس، سكاي واندرمان ميلن، وكياو تشانغ. "JAX: التحولات القابلة للتركيب لبرامج Python + NumPy". جيثب (2018). عنوان URL: http://​/github.com/google/jax.
http: / / github.com/ google / jax

[39] ديدريك بي كينغما وجيمي با. “آدم: طريقة للتحسين العشوائي”. كور عبس/1412.6980 (2015).

[40] Hyeonwoo Noh و Tackgeun You و Jonghwan Mun و Bohyung Han. "تنظيم الشبكات العصبية العميقة بالضوضاء: تفسيرها وتحسينها". نيوربس (2017).

[41] شيويه يينغ. "نظرة عامة على التجهيز الزائد وحلوله". في مجلة الفيزياء: سلسلة المؤتمرات. المجلد 1168، الصفحة 022022. منشورات IOP (2019).
https:/​/​doi.org/​10.1088/​1742-6596/​1168/​2/​022022

دليلنا يستخدم من قبل

[1] ديفيد بيرال جارسيا، وخوان كروز بينيتو، وفرانسيسكو خوسيه جارسيا بينالفو، "مراجعة الأدبيات المنهجية: التعلم الآلي الكمي وتطبيقاته"، أرخايف: 2201.04093, (2022).

[2] الأمين شيرات، سنيهال راج، يوردانيس كيرينيديس، أبهيشيك شيخار، بن وود، جون دي، شوفانيك تشاكرابارتي، ريتشارد تشين، ديلان هيرمان، شاوهان هو، بيير مينسن، رسلان شايدولين، يو صن، رومينا يالوفيتزكي، وماركو بيستويا، "التحوط العميق الكمي" الكم 7 ، 1191 (2023).

[3] ليو مونبروسو، جوناس لاندمان، أليكس بي. جريلو، رومان كوكلا، وإلهام كاشفي، "قابلية التدريب والتعبير للدوائر الكمومية التي تحافظ على وزن المطرقة للتعلم الآلي"، أرخايف: 2309.15547, (2023).

[4] سوهوم ثكار، سكاندر كازداغلي، ناتانش ماثور، يوردانيس كيرينيديس، أندريه ج. فيريرا مارتينز، وساموراي بريتو، "تحسين التنبؤ المالي عبر التعلم الآلي الكمي"، أرخايف: 2306.12965, (2023).

[5] جيسون إياكونيس وسونيكا جوهري، "تحميل البيانات الكمية الفعالة للصور على أساس شبكة Tensor"، أرخايف: 2310.05897, (2023).

[6] نيشانت جاين، جوناس لاندمان، ناتانش ماثور، ويوردانيس كيرينيديس، "شبكات فورييه الكمية لحل المعادلات التفاضلية التفاضلية البارامترية"، أرخايف: 2306.15415, (2023).

[7] دانيال ماستروبيترو، جورجيوس كورباس، فياتشيسلاف كونغورتسيف، وجاكوب مارسيك، “يساعد فليمنج فيوت في تسريع خوارزميات الكم المتغيرة في وجود الهضاب القاحلة”، أرخايف: 2311.18090, (2023).

[8] أليزا صديقي، كايتلين جيلي، وكريس بالانس، "التأكيد على الأجهزة الكمومية الحديثة: تقييم الأداء ورؤى التنفيذ"، أرخايف: 2401.13793, (2024).

الاستشهادات المذكورة أعلاه من إعلانات ساو / ناسا (تم آخر تحديث بنجاح 2024-02-22 13:37:43). قد تكون القائمة غير كاملة نظرًا لأن جميع الناشرين لا يقدمون بيانات اقتباس مناسبة وكاملة.

لا يمكن أن تجلب استشهد تبادل البيانات أثناء آخر محاولة 2024-02-22 13:37:41: لا يمكن جلب البيانات المستشهد بها من 10.22331 / q-2024-02-22-1265 من Crossref. هذا أمر طبيعي إذا تم تسجيل DOI مؤخرًا.

الطابع الزمني:

اكثر من مجلة الكم