Minimisation des risques structurels pour les classificateurs linéaires quantiques

Minimisation des risques structurels pour les classificateurs linéaires quantiques

Horodatage: 13 janvier 2023 5:28 AM

Casper Gyurik1, Dyon Vreumingen, camionnette1,2,3, et Vedran Dunjko1,4

1LIACS, Université de Leiden, Niels Bohrweg 1, 2333 CA Leiden, Pays-Bas
2QuSoft, Centrum Wiskunde & Informatica (CWI), Science Park 123, 1098 XG Amsterdam, Pays-Bas
3Institut de physique, Université d'Amsterdam, Science Park 904, 1098 XH Amsterdam, Pays-Bas
4LION, Université de Leiden, Niels Bohrweg 2, 2333 CA Leiden, Pays-Bas

Vous trouvez cet article intéressant ou souhaitez en discuter? Scite ou laisse un commentaire sur SciRate.

Abstract

Les modèles d'apprentissage automatique quantique (QML) basés sur des circuits quantiques paramétrés sont souvent présentés comme des candidats pour l'« application tueuse » à court terme de l'informatique quantique. Cependant, la compréhension des performances empiriques et de généralisation de ces modèles en est encore à ses balbutiements. Dans cet article, nous étudions comment équilibrer entre la précision de la formation et la performance de généralisation (également appelée minimisation du risque structurel) pour deux modèles QML importants introduits par Havlíček et al. [1], et Schuld et Killoran [2]. Tout d'abord, en utilisant des relations avec des modèles classiques bien compris, nous prouvons que deux paramètres du modèle - à savoir la dimension de la somme des images et la norme de Frobenius des observables utilisées par le modèle - contrôlent étroitement la complexité du modèle et donc sa performance de généralisation. . Deuxièmement, en utilisant des idées inspirées de la tomographie de processus, nous prouvons que ces paramètres de modèle contrôlent également étroitement la capacité des modèles à capturer des corrélations dans des ensembles d'exemples de formation. En résumé, nos résultats donnent lieu à de nouvelles options pour la minimisation du risque structurel pour les modèles QML.

Minimisation des risques structurels pour les classificateurs linéaires quantiques PlatoBlockchain Data Intelligence. Recherche verticale. Aï.

Image en vedette : Illustration de la minimisation des risques structurels (source : Mohri, Mehryar, Afshin Rostamizadeh et Ameet Talwalkar. Foundations of machine learning. MIT press, 2018).

► Données BibTeX

► Références

Vojtěch Havlíček, Antonio D Córcoles, Kristan Temme, Aram W Harrow, Abhinav Kandala, Jerry M Chow et Jay M Gambetta. "Apprentissage supervisé avec des espaces de fonctionnalités améliorés quantiques". Nature 567 (2019). arXiv:1804.11326.
https:/​/​doi.org/​10.1038/​s41586-019-0980-2
arXiv: 1804.11326

Maria Schuld et Nathan Killoran. "Apprentissage automatique quantique dans les espaces de Hilbert". Lettres d'examen physique 122 (2019). arXiv:1803.07128.
https: / / doi.org/ 10.1103 / PhysRevLett.122.040504
arXiv: 1803.07128

Frank Arute, Kunal Arya, Ryan Babbush, Dave Bacon, Joseph C Bardin, Rami Barends, Rupak Biswas, Sergio Boixo, Fernando GSL Brandao, David A Buell, et al. "La suprématie quantique à l'aide d'un processeur supraconducteur programmable". Nature 574 (2019). arXiv:1910.11333.
https:/​/​doi.org/​10.1038/​s41586-019-1666-5
arXiv: 1910.11333

John Preskill. "L'informatique quantique à l'ère NISQ et au-delà". Quantique 2 (2018). arXiv:1801.00862.
https:/​/​doi.org/​10.22331/​q-2018-08-06-79
arXiv: 1801.00862

Marco Cerezo, Andrew Arrasmith, Ryan Babbush, Simon C Benjamin, Suguru Endo, Keisuke Fujii, Jarrod R McClean, Kosuke Mitarai, Xiao Yuan, Lukasz Cincio, et al. « Algorithmes quantiques variationnels ». Revues de la nature Physique 3 (2021). arXiv:2012.09265.
https:/​/​doi.org/​10.1038/​s42254-021-00348-9
arXiv: 2012.09265

Jarrod R McClean, Jonathan Romero, Ryan Babbush et Alán Aspuru-Guzik. « La théorie des algorithmes hybrides variationnels quantiques-classiques ». Nouveau Journal de Physique 18 (2016). arXiv:1509.04279.
https:/​/​doi.org/​10.1088/​1367-2630/​18/​2/​023023
arXiv: 1509.04279

Abhinav Kandala, Antonio Mezzacapo, Kristan Temme, Maika Takita, Markus Brink, Jerry M Chow et Jay M Gambetta. "Solveur propre quantique variationnel à efficacité matérielle pour les petites molécules et les aimants quantiques". Nature 549 (2017). arXiv:1704.05018.
https: / / doi.org/ 10.1038 / nature23879
arXiv: 1704.05018

Peter JJ O'Malley, Ryan Babbush, Ian D Kivlichan, Jonathan Romero, Jarrod R McClean, Rami Barends, Julian Kelly, Pedram Roushan, Andrew Tranter, Nan Ding, et al. "Simulation quantique évolutive des énergies moléculaires". Examen physique X 6 (2016). arXiv:1512.06860.
https: / / doi.org/ 10.1103 / PhysRevX.6.031007
arXiv: 1512.06860

Edward Farhi, Jeffrey Goldstone et Sam Gutmann. "Un algorithme d'optimisation approchée quantique" (2014). arXiv:1411.4028.
arXiv: 1411.4028

Marcello Benedetti, Erika Lloyd, Stefan Sack et Mattia Fiorentini. "Circuits quantiques paramétrés comme modèles d'apprentissage automatique". Science et technologie quantiques 4 (2019). arXiv:1906.07682.
https:/​/​doi.org/​10.1088/​2058-9565/​ab4eb5
arXiv: 1906.07682

Barbara M Terhal et David P DiVincenzo. "Calcul quantique adaptatif, circuits quantiques à profondeur constante et jeux arthur-merlin". Information et calcul quantiques 4 (2004). arXiv:quant-ph/​0205133.
https://​/​doi.org/​10.48550/​arXiv.quant-ph/​0205133
arXiv: quant-ph / 0205133

Michael J Bremner, Richard Jozsa et Dan J Shepherd. "La simulation classique des calculs quantiques commutants implique l'effondrement de la hiérarchie polynomiale". Actes de la Royal Society A: Mathematical, Physical and Engineering Sciences 467 (2011). arXiv:1005.1407.
https: / / doi.org/ 10.1098 / rspa.2010.0301
arXiv: 1005.1407

Edward Grant, Marcello Benedetti, Shuxiang Cao, Andrew Hallam, Joshua Lockhart, Vid Stojevic, Andrew G Green et Simone Severini. "Classificateurs quantiques hiérarchiques". npj Informations quantiques 4 (2018). arXiv:1804.03680.
https:/​/​doi.org/​10.1038/​s41534-018-0116-9
arXiv: 1804.03680

Diego Ristè, Marcus P Da Silva, Colm A Ryan, Andrew W Cross, Antonio D Córcoles, John A Smolin, Jay M Gambetta, Jerry M Chow et Blake R Johnson. "Démonstration de l'avantage quantique dans l'apprentissage automatique". npj Informations quantiques 3 (2017). arXiv:1512.06069.
https:/​/​doi.org/​10.1038/​s41534-017-0017-3
arXiv: 1512.06069

Mehryar Mohri, Afshin Rostamizadeh et Ameet Talwalkar. « Fondements de l'apprentissage automatique ». Presse du MIT. (2018).

Peter L Bartlett. "La complexité de l'échantillon de la classification des modèles avec les réseaux de neurones : la taille des poids est plus importante que la taille du réseau". Transactions IEEE sur la théorie de l'information 44 (1998).
https: / / doi.org/ 10.1109 / 18.661502

Marie Schuld. "Les modèles d'apprentissage automatique quantique supervisé sont des méthodes de noyau" (2021). arXiv:2101.11020.
arXiv: 2101.11020

Matthias C Caro et Ishaun Datta. "Pseudo-dimension des circuits quantiques". Intelligence de la machine quantique 2 (2020). arXiv:2002.01490.
https:/​/​doi.org/​10.1007/​s42484-020-00027-5
arXiv: 2002.01490

Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo et Yaobo Zhang. « Sur la complexité statistique des circuits quantiques » (2021). arXiv:2101.06154.
https: / / doi.org/ 10.1103 / PhysRevA.105.062431
arXiv: 2101.06154

Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo et Yaobo Zhang. « Effets des ressources quantiques sur la complexité statistique des circuits quantiques » (2021). arXiv:2102.03282.
arXiv: 2102.03282

Kaifeng Bu, Dax Enshan Koh, Lu Li, Qingxian Luo et Yaobo Zhang. « Complexité Rademacher des circuits quantiques bruités » (2021). arXiv:2103.03139.
arXiv: 2103.03139

Amira Abbas, David Sutter, Christa Zoufal, Aurélien Lucchi, Alessio Figalli et Stefan Wörner. "La puissance des réseaux de neurones quantiques". Science computationnelle de la nature 1 (2021). arXiv:2011.00027.
https:/​/​doi.org/​10.1038/​s43588-021-00084-1
arXiv: 2011.00027

Yuxuan Du, Zhuozhuo Tu, Xiao Yuan et Dacheng Tao. "Mesure efficace de l'expressivité des algorithmes quantiques variationnels". Lettres d'examen physique 128 (2022). arXiv:2104.09961.
https: / / doi.org/ 10.1103 / PhysRevLett.128.080506
arXiv: 2104.09961

Leonardo Banchi, Jason Pereira et Stefano Pirandola. "Généralisation dans l'apprentissage automatique quantique : du point de vue de l'information quantique". PRX Quantique 2 (2021). arXiv:2102.08991.
https: / / doi.org/ 10.1103 / PRXQuantum.2.040321
arXiv: 2102.08991

Hsin-Yuan Huang, Michael Broughton, Masoud Mohseni, Ryan Babbush, Sergio Boixo, Hartmut Neven et Jarrod R McClean. "Le pouvoir des données dans l'apprentissage automatique quantique". Communications naturelles 12 (2021). arXiv:2011.01938.
https:/​/​doi.org/​10.1038/​s41467-021-22539-9
arXiv: 2011.01938

Yunchao Liu, Srinivasan Arunachalam et Kristan Temme. "Une accélération quantique rigoureuse et robuste en apprentissage automatique supervisé". Physique de la nature 17, 1013–1017 (2021). arXiv:2010.02174.
https: / / doi.org/ 10.1038 / s41567-021-01287-z
arXiv: 2010.02174

Bernhard Schölkopf, Alexander J Smola, Francis Bach, et al. « Apprentissage avec les noyaux : support des machines vectorielles, régularisation, optimisation et au-delà ». Presse du MIT. (2002).
https: / / doi.org/ 10.7551 / mitpress / 4175.001.0001

Vladimir N Vapnik et A Ya Chervonenkis. « De la convergence uniforme des fréquences relatives des événements à leurs probabilités ». Dans Mesures de complexité. Springer (2015).
https:/​/​doi.org/​10.1007/​978-3-319-21852-6_3

Michael J Kearns et Robert E Schapire. "Apprentissage efficace sans distribution de concepts probabilistes". Journal des sciences informatiques et des systèmes 48 (1994).
https:/​/​doi.org/​10.1016/​S0022-0000(05)80062-5

Michael M Wolf. « Fondements mathématiques de l'apprentissage supervisé ». https:/​/​www-m5.ma.tum.de/​foswiki/​pub/​M5/​Allgemeines/​MA4801_2020S/​ML_notes_main.pdf (2020).
https: / / www-m5.ma.tum.de/ foswiki / pub / M5 / Allgemeines / MA4801_2020S / ML_notes_main.pdf

Dyon van Vreumingen. "Apprentissage de l'espace des caractéristiques quantiques : caractérisation et avantages possibles". La thèse de master. Université de Leyde. (2020).

Jae-Eun Park, Brian Quanz, Steve Wood, Heather Higgins et Ray Harishankar. "Amélioration de l'application pratique de la SVM quantique : de la théorie à la pratique" (2020). arXiv:2012.07725.
arXiv: 2012.07725

John Shawe-Taylor, Peter L. Bartlett, Robert C. Williamson et Martin Anthony. "Minimisation des risques structurels sur les hiérarchies dépendantes des données". Transactions IEEE sur la théorie de l'information (1998).
https: / / doi.org/ 10.1109 / 18.705570

Martin Anthony et Peter L Bartlett. "Apprentissage de fonctions par interpolation". Combinatoire, probabilité et informatique 9 (2000).
https: / / doi.org/ 10.1017 / S0963548300004247

Peter L Bartlett et Philip M Long. "Prédiction, apprentissage, convergence uniforme et dimensions sensibles à l'échelle". Journal des sciences informatiques et des systèmes 56 (1998).
https: / / doi.org/ 10.1006 / jcss.1997.1557

Scott Aaronson. "L'apprenabilité des états quantiques". Actes de la Royal Society A: Mathematical, Physical and Engineering Sciences 463 (2007). arXiv:quant-ph/​0608142.
https: / / doi.org/ 10.1098 / rspa.2007.0113
arXiv: quant-ph / 0608142

Cité par

[1] Matthias C. Caro, Hsin-Yuan Huang, M. Cerezo, Kunal Sharma, Andrew Sornborger, Lukasz Cincio et Patrick J. Coles, "Généralisation dans l'apprentissage automatique quantique à partir de quelques données d'entraînement", Communications Nature 13, 4919 (2022).

[2] Matthias C. Caro, Hsin-Yuan Huang, Nicholas Ezzell, Joe Gibbs, Andrew T. Sornborger, Lukasz Cincio, Patrick J. Coles et Zoë Holmes, "Généralisation hors distribution pour l'apprentissage de la dynamique quantique", arXiv: 2204.10268.

[3] Yuxuan Du, Min-Hsiu Hsieh, Tongliang Liu, Shan You et Dacheng Tao, "Apprentissage des réseaux de neurones quantiques", PRX Quantique 2 4, 040337 (2021).

[4] Joe Gibbs, Zoë Holmes, Matthias C. Caro, Nicholas Ezzell, Hsin-Yuan Huang, Lukasz Cincio, Andrew T. Sornborger et Patrick J. Coles, "Simulation dynamique via l'apprentissage automatique quantique avec généralisation prouvable", arXiv: 2204.10269.

[5] Sofiene Jerbi, Lukas J. Fiderer, Hendrik Poulsen Nautrup, Jonas M. Kübler, Hans J. Briegel et Vedran Dunjko, "Apprentissage automatique quantique au-delà des méthodes du noyau", arXiv: 2110.13162.

[6] Matthias C. Caro, Elies Gil-Fuster, Johannes Jakob Meyer, Jens Eisert et Ryan Sweke, "Encoding-dependent generalization bounds for paramétrrized quantum circuits", arXiv: 2106.03880.

[7] Supanut Thanasilp, Samson Wang, M. Cerezo et Zoë Holmes, « Concentration exponentielle et non entraînement dans les méthodes du noyau quantique », arXiv: 2208.11060.

[8] Masahiro Kobayashi, Kohei Nakaji et Naoki Yamamoto, "Surajustement dans l'apprentissage automatique quantique et décrochage enchevêtré", arXiv: 2205.11446.

[9] Brian Coyle, "Applications d'apprentissage automatique pour les ordinateurs quantiques bruyants à l'échelle intermédiaire", arXiv: 2205.09414.

[10] Evan Peters et Maria Schuld, "Généralisation malgré le surajustement dans les modèles d'apprentissage automatique quantique", arXiv: 2209.05523.

[11] Marco Fanizza, Yihui Quek et Matteo Rosati, "Apprentissage des processus quantiques sans contrôle d'entrée", arXiv: 2211.05005.

[12] Dylan Herman, Rudy Raymond, Muyuan Li, Nicolas Robles, Antonio Mezzacapo et Marco Pistoia, "Expressivité de l'apprentissage machine quantique variationnel sur le cube booléen", arXiv: 2204.05286.

[13] Yuxuan Du, Min-Hsiu Hsieh, Tongliang Liu, Shan You et Dacheng Tao, "Erratum : Capacité d'apprentissage des réseaux de neurones quantiques [PRX QUANTUM 2, 040337 (2021)]", PRX Quantique 3 3, 030901 (2022).

[14] Chih-Chieh Chen, Masaru Sogabe, Kodai Shiba, Katsuyoshi Sakamoto et Tomah Sogabe, « Limites des dimensions générales de Vapnik-Chervonenkis pour l'apprentissage quantique des circuits », Journal of Physics: Complexité 3 4, 045007 (2022).

[15] Yuxuan Du, Yibo Yang, Dacheng Tao et Min-Hsiu Hsieh, "Démystifier la puissance dépendante des problèmes des réseaux de neurones quantiques sur la classification multi-classes", arXiv: 2301.01597.

Les citations ci-dessus proviennent de SAO / NASA ADS (dernière mise à jour réussie 2023-01-15 10:53:14). La liste peut être incomplète car tous les éditeurs ne fournissent pas de données de citation appropriées et complètes.

On Le service cité par Crossref aucune donnée sur la citation des œuvres n'a été trouvée (dernière tentative 2023-01-15 10:53:12).

Cet article est publié dans Quantum sous le Creative Commons Attribution 4.0 International (CC BY 4.0) Licence. Le droit d'auteur reste la propriété des détenteurs d'origine tels que les auteurs ou leurs institutions.

Horodatage:

Plus de Journal quantique