Ελαχιστοποίηση δομικού κινδύνου για κβαντικούς γραμμικούς ταξινομητές

Ελαχιστοποίηση δομικού κινδύνου για κβαντικούς γραμμικούς ταξινομητές

Χρονική σήμανση: 13 Ιανουαρίου 2023 5:28 π.μ.

Κάσπερ Γκιούρικ1, Dyon Vreumingen, van1,2,3, και ο Βεντράν Ντάνικο1,4

1LIACS, Πανεπιστήμιο Leiden, Niels Bohrweg 1, 2333 CA Leiden, Netherlands
2QuSoft, Centrum Wiskunde & Informatica (CWI), Science Park 123, 1098 XG Άμστερνταμ, Ολλανδία
3Institute of Physics, University of Amsterdam, Science Park 904, 1098 XH Amsterdam, the Netherlands
4LION, Πανεπιστήμιο Leiden, Niels Bohrweg 2, 2333 CA Leiden, Netherlands

Βρείτε αυτό το άρθρο ενδιαφέρουσα ή θέλετε να συζητήσετε; Scite ή αφήστε ένα σχόλιο για το SciRate.

Περίληψη

Τα μοντέλα κβαντικής μηχανικής μάθησης (QML) που βασίζονται σε παραμετροποιημένα κβαντικά κυκλώματα συχνά επισημαίνονται ως υποψήφια για τη βραχυπρόθεσμη «δολοφονική εφαρμογή» του κβαντικού υπολογισμού. Ωστόσο, η κατανόηση της εμπειρικής απόδοσης και της γενίκευσης αυτών των μοντέλων είναι ακόμη σε αρχικό στάδιο. Σε αυτό το άρθρο μελετάμε πώς να ισορροπήσουμε μεταξύ της ακρίβειας της εκπαίδευσης και της απόδοσης γενίκευσης (ονομάζεται επίσης ελαχιστοποίηση δομικού κινδύνου) για δύο εξέχοντα μοντέλα QML που εισήχθησαν από τους Havlíček et al. [1] και Schuld και Killoran [2]. Πρώτον, χρησιμοποιώντας σχέσεις με καλά κατανοητά κλασικά μοντέλα, αποδεικνύουμε ότι δύο παράμετροι του μοντέλου – δηλαδή η διάσταση του αθροίσματος των εικόνων και ο κανόνας Frobenius των παρατηρήσιμων στοιχείων που χρησιμοποιούνται από το μοντέλο – ελέγχουν στενά την πολυπλοκότητα των μοντέλων και συνεπώς την απόδοση γενίκευσής του . Δεύτερον, χρησιμοποιώντας ιδέες εμπνευσμένες από την τομογραφία διεργασίας, αποδεικνύουμε ότι αυτές οι παράμετροι του μοντέλου ελέγχουν επίσης στενά την ικανότητα των μοντέλων να καταγράφουν συσχετισμούς σε σετ παραδειγμάτων εκπαίδευσης. Συνοπτικά, τα αποτελέσματά μας δημιουργούν νέες επιλογές για την ελαχιστοποίηση του δομικού κινδύνου για μοντέλα QML.

Ελαχιστοποίηση δομικού κινδύνου για κβαντικούς γραμμικούς ταξινομητές PlatoBlockchain Data Intelligence. Κάθετη αναζήτηση. Ολα συμπεριλαμβάνονται.

Επιλεγμένη εικόνα: Απεικόνιση ελαχιστοποίησης δομικών κινδύνων (πηγή: Mohri, Mehryar, Afshin Rostamizadeh και Ameet Talwalkar. Foundations of machine learning. MIT press, 2018).

► Δεδομένα BibTeX

► Αναφορές

[1] Vojtěch Havlíček, Antonio D Córcoles, Kristan Temme, Aram W Harrow, Abhinav Kandala, Jerry M Chow και Jay M Gambetta. «Εποπτευόμενη μάθηση με κβαντικά ενισχυμένους χώρους χαρακτηριστικών». Nature 567 (2019). arXiv:1804.11326.
https:/​/​doi.org/​10.1038/​s41586-019-0980-2
arXiv: 1804.11326

[2] Maria Schuld και Nathan Killoran. «Κβαντική μηχανική μάθηση σε χώρους χαρακτηριστικών Hilbert». Επιστολές φυσικής ανασκόπησης 122 (2019). arXiv:1803.07128.
https: / / doi.org/ 10.1103 / PhysRevLett.122.040504
arXiv: 1803.07128

[3] Frank Arute, Kunal Arya, Ryan Babbush, Dave Bacon, Joseph C Bardin, Rami Barends, Rupak Biswas, Sergio Boixo, Fernando GSL Brandao, David A Buell, κ.ά. «Κβαντική υπεροχή χρησιμοποιώντας προγραμματιζόμενο υπεραγώγιμο επεξεργαστή». Nature 574 (2019). arXiv:1910.11333.
https:/​/​doi.org/​10.1038/​s41586-019-1666-5
arXiv: 1910.11333

[4] Τζον Πρέσκιλ. «Ο κβαντικός υπολογιστής στην εποχή NISQ και πέρα ​​από αυτό». Quantum 2 (2018). arXiv:1801.00862.
https:/​/​doi.org/​10.22331/​q-2018-08-06-79
arXiv: 1801.00862

[5] Marco Cerezo, Andrew Arrasmith, Ryan Babbush, Simon C Benjamin, Suguru Endo, Keisuke Fujii, Jarrod R McClean, Kosuke Mitarai, Xiao Yuan, Lukasz Cincio, κ.ά. «Μεταβλητοί κβαντικοί αλγόριθμοι». Nature Reviews Physics 3 (2021). arXiv:2012.09265.
https:/​/​doi.org/​10.1038/​s42254-021-00348-9
arXiv: 2012.09265

[6] Jarrod R McClean, Jonathan Romero, Ryan Babbush και Alán Aspuru-Guzik. «Η θεωρία των μεταβλητών υβριδικών κβαντικών-κλασικών αλγορίθμων». New Journal of Physics 18 (2016). arXiv:1509.04279.
https:/​/​doi.org/​10.1088/​1367-2630/​18/​2/​023023
arXiv: 1509.04279

[7] Abhinav Kandala, Antonio Mezzacapo, Kristan Temme, Maika Takita, Markus Brink, Jerry M Chow και Jay M Gambetta. «Αποτελεσματική μεταβλητή κβαντική ιδιολύτρια για μικρά μόρια και κβαντικούς μαγνήτες». Nature 549 (2017). arXiv:1704.05018.
https: / / doi.org/ 10.1038 / nature23879
arXiv: 1704.05018

[8] Peter JJ O'Malley, Ryan Babbush, Ian D Kivlichan, Jonathan Romero, Jarrod R McClean, Rami Barends, Julian Kelly, Pedram Roushan, Andrew Tranter, Nan Ding, κ.ά. «Κλιμακόμενη κβαντική προσομοίωση μοριακών ενεργειών». Φυσική Ανασκόπηση Χ 6 (2016). arXiv:1512.06860.
https: / / doi.org/ 10.1103 / PhysRevX.6.031007
arXiv: 1512.06860

[9] Edward Farhi, Jeffrey Goldstone και Sam Gutmann. «Ένας κβαντικός αλγόριθμος βελτιστοποίησης κατά προσέγγιση» (2014). arXiv:1411.4028.
arXiv: 1411.4028

[10] Marcello Benedetti, Erika Lloyd, Stefan Sack και Mattia Fiorentini. «Παραμετροποιημένα κβαντικά κυκλώματα ως μοντέλα μηχανικής μάθησης». Quantum Science and Technology 4 (2019). arXiv:1906.07682.
https:/​/​doi.org/​10.1088/​2058-9565/​ab4eb5
arXiv: 1906.07682

[11] Barbara M Terhal και David P DiVincenzo. «Προσαρμοστικός κβαντικός υπολογισμός, κβαντικά κυκλώματα σταθερού βάθους και παιχνίδια Άρθουρ-Μέρλιν». Quantum Information & Computation 4 (2004). arXiv:quant-ph/​0205133.
https://doi.org/​10.48550/​arXiv.quant-ph/​0205133
arXiv: quant-ph / 0205133

[12] Michael J Bremner, Richard Jozsa και Dan J Shepherd. «Η κλασική προσομοίωση κβαντικών υπολογισμών μετακίνησης συνεπάγεται κατάρρευση της πολυωνυμικής ιεραρχίας». Proceedings of the Royal Society A: Mathematical, Physical and Engineering Sciences 467 (2011). arXiv:1005.1407.
https: / / doi.org/ 10.1098 / rspa.2010.0301
arXiv: 1005.1407

[13] Edward Grant, Marcello Benedetti, Shuxiang Cao, Andrew Hallam, Joshua Lockhart, Vid Stojevic, Andrew G Green και Simone Severini. «Ιεραρχικοί κβαντικοί ταξινομητές». npj Quantum Information 4 (2018). arXiv:1804.03680.
https:/​/​doi.org/​10.1038/​s41534-018-0116-9
arXiv: 1804.03680

[14] Diego Ristè, Marcus P Da Silva, Colm A Ryan, Andrew W Cross, Antonio D Córcoles, John A Smolin, Jay M Gambetta, Jerry M Chow και Blake R Johnson. «Επίδειξη κβαντικού πλεονεκτήματος στη μηχανική μάθηση». npj Quantum Information 3 (2017). arXiv:1512.06069.
https:/​/​doi.org/​10.1038/​s41534-017-0017-3
arXiv: 1512.06069

[15] Mehryar Mohri, Afshin Rostamizadeh και Ameet Talwalkar. «Τα θεμέλια της μηχανικής μάθησης». Τύπος MIT. (2018).

[16] Peter L Bartlett. «Η πολυπλοκότητα του δείγματος της ταξινόμησης προτύπων με νευρωνικά δίκτυα: το μέγεθος των βαρών είναι πιο σημαντικό από το μέγεθος του δικτύου». Συναλλαγές IEEE στη Θεωρία Πληροφοριών 44 (1998).
https: / / doi.org/ 10.1109 / 18.661502

[17] Μαρία Σουλντ. «Τα εποπτευόμενα μοντέλα κβαντικής μηχανικής μάθησης είναι μέθοδοι πυρήνα» (2021). arXiv:2101.11020.
arXiv: 2101.11020

[18] Matthias C Caro και Ishaun Datta. «Ψευδοδιάσταση κβαντικών κυκλωμάτων». Quantum Machine Intelligence 2 (2020). arXiv:2002.01490.
https:/​/​doi.org/​10.1007/​s42484-020-00027-5
arXiv: 2002.01490

[19] Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo και Yaobo Zhang. «Σχετικά με τη στατιστική πολυπλοκότητα των κβαντικών κυκλωμάτων» (2021). arXiv:2101.06154.
https: / / doi.org/ 10.1103 / PhysRevA.105.062431
arXiv: 2101.06154

[20] Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo και Yaobo Zhang. «Επιδράσεις κβαντικών πόρων στη στατιστική πολυπλοκότητα των κβαντικών κυκλωμάτων» (2021). arXiv:2102.03282.
arXiv: 2102.03282

[21] Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo και Yaobo Zhang. "Πολυπλοκότητα Rademacher των θορυβωδών κβαντικών κυκλωμάτων" (2021). arXiv:2103.03139.
arXiv: 2103.03139

[22] Amira Abbas, David Sutter, Christa Zoufal, Aurélien Lucchi, Alessio Figalli και Stefan Woerner. «Η δύναμη των κβαντικών νευρωνικών δικτύων». Nature Computational Science 1 (2021). arXiv:2011.00027.
https:/​/​doi.org/​10.1038/​s43588-021-00084-1
arXiv: 2011.00027

[23] Yuxuan Du, Zhuozhuo Tu, Xiao Yuan και Dacheng Tao. «Αποτελεσματικό μέτρο για την εκφραστικότητα μεταβλητών κβαντικών αλγορίθμων». Physical Review Letters 128 (2022). arXiv:2104.09961.
https: / / doi.org/ 10.1103 / PhysRevLett.128.080506
arXiv: 2104.09961

[24] Leonardo Banchi, Jason Pereira και Stefano Pirandola. «Γενίκευση στην κβαντική μηχανική μάθηση: Μια άποψη κβαντικών πληροφοριών». PRX Quantum 2 (2021). arXiv:2102.08991.
https: / / doi.org/ 10.1103 / PRXQuantum.2.040321
arXiv: 2102.08991

[25] Hsin-Yuan Huang, Michael Broughton, Masoud Mohseni, Ryan Babbush, Sergio Boixo, Hartmut Neven και Jarrod R McClean. «Η δύναμη των δεδομένων στην κβαντική μηχανική μάθηση». Nature communications 12 (2021). arXiv:2011.01938.
https:/​/​doi.org/​10.1038/​s41467-021-22539-9
arXiv: 2011.01938

[26] Yunchao Liu, Srinivasan Arunachalam και Kristan Temme. «Μια αυστηρή και ισχυρή κβαντική επιτάχυνση στην εποπτευόμενη μηχανική εκμάθηση». Nature Physics 17, 1013–1017 (2021). arXiv:2010.02174.
https: / / doi.org/ 10.1038 / s41567-021-01287-z
arXiv: 2010.02174

[27] Bernhard Schölkopf, Alexander J Smola, Francis Bach, et al. «Μάθηση με πυρήνες: υποστήριξη διανυσματικών μηχανών, τακτοποίηση, βελτιστοποίηση και άλλα». Τύπος MIT. (2002).
https: / / doi.org/ 10.7551 / mitpress / 4175.001.0001

[28] Vladimir N Vapnik και A Ya Chervonenkis. «Σχετικά με την ομοιόμορφη σύγκλιση των σχετικών συχνοτήτων των γεγονότων με τις πιθανότητές τους». Σε Μέτρα πολυπλοκότητας. Springer (2015).
https:/​/​doi.org/​10.1007/​978-3-319-21852-6_3

[29] Michael J Kearns και Robert E Schapire. «Αποτελεσματική εκμάθηση πιθανολογικών εννοιών χωρίς διανομή». Journal of Computer and System Sciences 48 (1994).
https:/​/​doi.org/​10.1016/​S0022-0000(05)80062-5

[30] Michael M Wolf. «Μαθηματικά θεμέλια της εποπτευόμενης μάθησης». https://www-m5.ma.tum.de/​foswiki/​pub/​M5/​Allgemeines/​MA4801_2020S/​ML_notes_main.pdf (2020).
https: / / www-m5.ma.tum.de/ foswiki / pub / M5 / Allgemeines / MA4801_2020S / ML_notes_main.pdf

[31] Dyon van Vreumingen. «Μάθηση χώρου κβαντικών χαρακτηριστικών: χαρακτηρισμός και πιθανά πλεονεκτήματα». Μεταπτυχιακή εργασία. Πανεπιστήμιο του Λάιντεν. (2020).

[32] Jae-Eun Park, Brian Quanz, Steve Wood, Heather Higgins και Ray Harishankar. «Βελτίωση πρακτικής εφαρμογής στο κβαντικό svm: θεωρία στην πράξη» (2020). arXiv:2012.07725.
arXiv: 2012.07725

[33] John Shawe-Taylor, Peter L. Bartlett, Robert C. Williamson και Martin Anthony. «Ελαχιστοποίηση δομικού κινδύνου σε ιεραρχίες που εξαρτώνται από δεδομένα». IEEE Transactions on Information Theory (1998).
https: / / doi.org/ 10.1109 / 18.705570

[34] Martin Anthony και Peter L Bartlett. «Μάθηση συναρτήσεων από παρεμβολή». Combinatorics, Probability and Computing 9 (2000).
https: / / doi.org/ 10.1017 / S0963548300004247

[35] Peter L Bartlett και Philip M Long. «Πρόβλεψη, μάθηση, ομοιόμορφη σύγκλιση και διαστάσεις ευαίσθητες στην κλίμακα». Journal of Computer and System Sciences 56 (1998).
https: / / doi.org/ 10.1006 / jcss.1997.1557

[36] Σκοτ Άαρονσον. «Η δυνατότητα εκμάθησης των κβαντικών καταστάσεων». Proceedings of the Royal Society A: Mathematical, Physical and Engineering Sciences 463 (2007). arXiv:quant-ph/​0608142.
https: / / doi.org/ 10.1098 / rspa.2007.0113
arXiv: quant-ph / 0608142

Αναφέρεται από

[1] Matthias C. Caro, Hsin-Yuan Huang, M. Cerezo, Kunal Sharma, Andrew Sornborger, Lukasz Cincio και Patrick J. Coles, “Generalization in quantum machine learning from few training data”, Nature Communications 13, 4919 (2022).

[2] Matthias C. Caro, Hsin-Yuan Huang, Nicholas Ezzell, Joe Gibbs, Andrew T. Sornborger, Lukasz Cincio, Patrick J. Coles και Zoë Holmes, “Out-of-distribution generalization for learning quantum dynamics”, arXiv: 2204.10268.

[3] Yuxuan Du, Min-Hsiu Hsieh, Tongliang Liu, Shan You και Dacheng Tao, «Learnability of Quantum Neural Networks». PRX Quantum 2 4, 040337 (2021).

[4] Joe Gibbs, Zoë Holmes, Matthias C. Caro, Nicholas Ezzell, Hsin-Yuan Huang, Lukasz Cincio, Andrew T. Sornborger και Patrick J. Coles, «Dynamical simulation via quantum machine learning with provable generalization». arXiv: 2204.10269.

[5] Sofiene Jerbi, Lukas J. Fiderer, Hendrik Poulsen Nautrup, Jonas M. Kübler, Hans J. Briegel και Vedran Dunjko, «Κβαντική μηχανική μάθηση πέρα ​​από τις μεθόδους πυρήνα». arXiv: 2110.13162.

[6] Matthias C. Caro, Elies Gil-Fuster, Johannes Jakob Meyer, Jens Eisert και Ryan Sweke, “Encoding-dependent generalization bounds for parametrized quantum circuits”. arXiv: 2106.03880.

[7] Supanut Thanasilp, Samson Wang, M. Cerezo και Zoë Holmes, «Εκθετική συγκέντρωση και ανεκπαίδευση σε μεθόδους κβαντικού πυρήνα». arXiv: 2208.11060.

[8] Masahiro Kobayashi, Kohei Nakaji και Naoki Yamamoto, «Υπερπροσαρμογή στην κβαντική μηχανική μάθηση και εμπλοκή της εγκατάλειψης», arXiv: 2205.11446.

[9] Brian Coyle, «Εφαρμογές μηχανικής εκμάθησης για θορυβώδεις κβαντικούς υπολογιστές μέσης κλίμακας», arXiv: 2205.09414.

[10] Evan Peters και Maria Schuld, «Γενίκευση παρά την υπερβολική προσαρμογή σε μοντέλα κβαντικής μηχανικής μάθησης», arXiv: 2209.05523.

[11] Marco Fanizza, Yihui Quek και Matteo Rosati, «Μάθηση κβαντικών διεργασιών χωρίς έλεγχο εισόδου», arXiv: 2211.05005.

[12] Dylan Herman, Rudy Raymond, Muyuan Li, Nicolas Robles, Antonio Mezzacapo και Marco Pistoia, «Εκφραστικότης της Μεταβλητής Κβαντικής Μηχανικής Μάθησης στον Κύβο Boolean», arXiv: 2204.05286.

[13] Yuxuan Du, Min-Hsiu Hsieh, Tongliang Liu, Shan You και Dacheng Tao, "Erratum: Learnability of Quantum Neural Networks [PRX QUANTUM 2, 040337 (2021)]", PRX Quantum 3 3, 030901 (2022).

[14] Chih-Chieh Chen, Masaru Sogabe, Kodai Shiba, Katsuyoshi Sakamoto και Tomah Sogabe, «Γενικά όρια διάστασης Vapnik-Chervonenkis για μάθηση κβαντικού κυκλώματος», Εφημερίδα της Φυσικής: Πολυπλοκότητα 3 4, 045007 (2022).

[15] Yuxuan Du, Yibo Yang, Dacheng Tao και Min-Hsiu Hsieh, «Απομυθοποιήστε την εξαρτώμενη από το πρόβλημα δύναμη των κβαντικών νευρωνικών δικτύων σε ταξινόμηση πολλαπλών κλάσεων». arXiv: 2301.01597.

Οι παραπάνω αναφορές είναι από SAO / NASA ADS (τελευταία ενημέρωση επιτυχώς 2023-01-15 10:53:14). Η λίστα μπορεί να είναι ελλιπής, καθώς δεν παρέχουν όλοι οι εκδότες τα κατάλληλα και πλήρη στοιχεία αναφοράς.

On Η υπηρεσία παραπομπής του Crossref δεν βρέθηκαν δεδομένα σχετικά με την αναφορά έργων (τελευταία προσπάθεια 2023-01-15 10:53:12).

Αυτό το Βιβλίο δημοσιεύεται στο Quantum στο πλαίσιο του Creative Commons Attribution 4.0 Διεθνής (CC BY 4.0) άδεια. Τα πνευματικά δικαιώματα παραμένουν στους κατόχους των πρωτότυπων δικαιωμάτων πνευματικής ιδιοκτησίας όπως οι δημιουργοί ή τα ιδρύματά τους

Σφραγίδα ώρας:

Περισσότερα από Quantum Journal