La quête pour décoder l'ensemble de Mandelbrot, la célèbre fractale des mathématiques | Magazine Quanta

Au milieu des années 1980, à l’instar des lecteurs de cassettes Walkman et des chemises tie-dye, la silhouette d’insecte du décor de Mandelbrot était partout.

Les étudiants l’ont collé sur les murs des dortoirs du monde entier. Les mathématiciens ont reçu des centaines de lettres, des demandes pressantes d'impressions de l'ensemble. (En réponse, certains d'entre eux ont produit des catalogues, accompagnés de listes de prix ; d'autres ont compilé ses caractéristiques les plus frappantes dans des livres.) Les fans plus férus de technologie pourraient se tourner vers le numéro d'août 1985 de Scientific American. Sur sa couverture, l'ensemble de Mandelbrot se déployait en vrilles enflammées, sa bordure enflammée ; à l'intérieur se trouvaient des instructions de programmation minutieuses, détaillant comment les lecteurs pouvaient générer eux-mêmes l'image emblématique.

À cette époque, ces vrilles avaient également étendu leur portée bien au-delà des mathématiques, dans des domaines apparemment sans rapport avec la vie quotidienne. Au cours des années suivantes, l'ensemble de Mandelbrot inspirera les nouvelles peintures de David Hockney et les nouvelles compositions de plusieurs musiciens – des pièces de type fugue dans le style de Bach. Il apparaîtra dans les pages de la fiction de John Updike et guidera la façon dont le critique littéraire Hugh Kenner a analysé la poésie d'Ezra Pound. Cela deviendra le sujet d'hallucinations psychédéliques et d'un documentaire populaire raconté par le grand de la science-fiction Arthur C. Clarke.

L'ensemble de Mandelbrot est une forme particulière, avec un contour fractal. Utilisez un ordinateur pour zoomer sur les limites irrégulières du décor et vous rencontrerez des vallées d'hippocampes et des défilés d'éléphants, des galaxies spirales et des filaments ressemblant à des neurones. Quelle que soit la profondeur de votre exploration, vous verrez toujours des quasi-copies de l’ensemble original – une cascade infinie et vertigineuse d’autosimilarité.

Cette autosimilarité était un élément central du livre à succès de James Gleick. Chaos, qui a consolidé la place de l'ensemble Mandelbrot dans la culture populaire. "Il contenait un univers d'idées", a écrit Gleick. « Une philosophie moderne de l’art, une justification du nouveau rôle de l’expérimentation en mathématiques, une manière de présenter des systèmes complexes à un large public. »

L'ensemble Mandelbrot était devenu un symbole. Cela représentait la nécessité d’un nouveau langage mathématique, une meilleure façon de décrire la nature fractale du monde qui nous entoure. Il illustre à quel point une complexité profonde peut émerger des règles les plus simples, tout comme la vie elle-même. (« C’est donc un véritable message d’espoir. » John Hubbard, l’un des premiers mathématiciens à étudier l’ensemble, a déclaré dans une vidéo de 1989, « qu’il est possible que la biologie puisse vraiment être comprise de la même manière que ces images peuvent être comprises. ») Dans l’ensemble de Mandelbrot, l’ordre et le chaos vivaient en harmonie ; le déterminisme et le libre arbitre pourraient être réconciliés. Un mathématicien se souvient avoir découvert le décor alors qu'il était adolescent et l'avoir vu comme une métaphore de la frontière complexe entre la vérité et le mensonge.

Le décor de Mandelbrot était partout, jusqu'à ce qu'il ne le soit plus.

En une décennie, il semble avoir disparu. Les mathématiciens sont passés à d’autres sujets et le public à d’autres symboles. Aujourd’hui, 40 ans seulement après sa découverte, la fractale est devenue un cliché, à la limite du kitsch.

Mais une poignée de mathématiciens ont refusé de lâcher prise. Ils ont consacré leur vie à découvrir les secrets du décor de Mandelbrot. Maintenant, ils pensent qu’ils sont enfin sur le point de vraiment le comprendre.

Leur histoire est une histoire d’exploration, d’expérimentation – et de la façon dont la technologie façonne notre façon même de penser et les questions que nous posons sur le monde.

Les chasseurs de primes

En octobre 2023, 20 mathématiciens du monde entier se sont rassemblés dans un bâtiment trapu en briques sur ce qui était autrefois une base de recherche militaire danoise. La base, construite à la fin des années 1800 au milieu des bois, était nichée dans un fjord sur la côte nord-ouest de l'île la plus peuplée du Danemark. Une vieille torpille gardait l'entrée. Des photos en noir et blanc, représentant des officiers de la marine en uniforme, des bateaux alignés sur un quai et des essais de sous-marins en cours, ornaient les murs. Pendant trois jours, alors qu'un vent violent transformait l'eau à l'extérieur des fenêtres en moutons mousseux, le groupe a assisté à une série de conférences, la plupart animées par deux mathématiciens de l'Université Stony Brook de New York : Misha Lyubitch et les Dima Doudko.

Parmi le public de l'atelier se trouvaient certains des explorateurs les plus intrépides de l'univers de Mandelbrot. Près du devant, assis Mitsuhiro Shishikura de l'Université de Kyoto, qui, dans les années 1990, a prouvé que les limites de l'ensemble étaient aussi compliquées que possible. Quelques sièges plus loin, c'était Hiroyuki Inō, qui, aux côtés de Shishikura, développa d'importantes techniques pour étudier une région particulièrement médiatisée de l'ensemble de Mandelbrot. Dans la dernière rangée se trouvait Loup Jung, le créateur de Mandel, le logiciel incontournable des mathématiciens pour étudier de manière interactive l'ensemble de Mandelbrot. Étaient également présents Arnaud Chéritat de l'Université de Toulouse, Carsten Peterson de l'Université de Roskilde (qui a organisé l'atelier), et plusieurs autres qui ont apporté des contributions majeures à la compréhension des mathématiciens de l'ensemble de Mandelbrot.

Et devant le tableau blanc se trouvaient Lyubich, le plus grand expert mondial en la matière, et Dudko, l'un de ses plus proches collaborateurs. Avec les mathématiciens Jeremy Kahn et les Alex Kapiamba, ils ont travaillé pour prouver une conjecture de longue date sur la structure géométrique de l'ensemble de Mandelbrot. Cette conjecture, connue sous le nom de MLC, est le dernier obstacle dans la quête de plusieurs décennies visant à caractériser la fractale et à apprivoiser son enchevêtrement sauvage.

En construisant et en perfectionnant un ensemble d'outils puissants, les mathématiciens ont réussi à contrôler la géométrie de « presque tout ce qui se trouve dans l'ensemble de Mandelbrot », a déclaré Caroline Davis de l’Université d’Indiana – à l’exception de quelques cas restants. "Misha, Dima, Jeremy et Alex sont comme des chasseurs de primes, essayant de retrouver ces derniers."

Lyubich et Dudko étaient au Danemark pour informer d'autres mathématiciens des progrès récents dans la preuve du MLC et des techniques qu'ils avaient développées pour y parvenir. Au cours des 20 dernières années, les chercheurs se sont réunis ici pour des ateliers consacrés à l'analyse des résultats et des méthodes dans le domaine de l'analyse complexe, l'étude mathématique des types de nombres et de fonctions utilisés pour générer l'ensemble de Mandelbrot.

C'était une configuration inhabituelle : les mathématiciens prenaient tous leurs repas ensemble, parlaient et riaient autour de bières jusqu'aux petites heures. Lorsqu'ils ont finalement décidé de s'endormir, ils se sont retirés dans des lits superposés ou des lits de camp dans de petites chambres qu'ils partageaient au deuxième étage de l'établissement. (À notre arrivée, on nous a dit de prendre des draps et des taies d'oreiller dans une pile et de les monter à l'étage pour faire nos lits.) Certaines années, les participants à la conférence bravent une baignade dans l'eau glaciale ; le plus souvent, ils errent dans les bois. Mais pour la plupart, il n’y a rien à faire à part les mathématiques.

En règle générale, m'a dit l'un des participants, l'atelier attire beaucoup de jeunes mathématiciens. Mais ce n'était pas le cas cette fois-ci – peut-être parce que c'était le milieu du semestre ou, spéculait-il, à cause de la difficulté du sujet. Il a avoué qu'à ce moment-là, il s'était senti un peu intimidé à l'idée de donner une conférence devant autant de grands noms du domaine.

Mais étant donné que la plupart des mathématiciens dans le domaine plus large de l’analyse complexe ne travaillent plus directement sur l’ensemble de Mandelbrot, pourquoi consacrer un atelier entier au MLC ?

L’ensemble de Mandelbrot est plus qu’une fractale, et pas seulement au sens métaphorique. Il sert en quelque sorte de catalogue principal de systèmes dynamiques – de toutes les différentes manières dont un point peut se déplacer dans l’espace selon une règle simple. Pour comprendre ce catalogue principal, il faut parcourir de nombreux paysages mathématiques différents. L’ensemble de Mandelbrot est profondément lié non seulement à la dynamique, mais aussi à la théorie des nombres, à la topologie, à la géométrie algébrique, à la théorie des groupes et même à la physique. "Cela interagit avec le reste des mathématiques d'une manière magnifique", a déclaré Sabyasachi Mukherjee de l'Institut Tata de recherche fondamentale en Inde.

Pour progresser sur MLC, les mathématiciens ont dû développer un ensemble de techniques sophistiquées – ce que Chéritat appelle « une philosophie puissante ». Ces outils ont suscité beaucoup d’attention. Aujourd’hui, ils constituent un pilier central de l’étude des systèmes dynamiques au sens large. Ils se sont révélés cruciaux pour résoudre une foule d’autres problèmes – des problèmes qui n’ont rien à voir avec l’ensemble de Mandelbrot. Et ils ont transformé la MLC d'une question de niche en l'une des conjectures ouvertes les plus profondes et les plus importantes du domaine.

Lyubich, le mathématicien sans doute le plus responsable de l’élaboration de cette « philosophie » dans sa forme actuelle, se tient grand et droit et parle doucement. Lorsque d'autres mathématiciens de l'atelier l'approchent pour discuter d'un concept ou lui poser une question, il ferme les yeux et écoute attentivement, les sourcils épais froncés. Il répond prudemment, avec un accent russe.

Mais il est également prompt à éclater de rire, chaleureux et à faire des blagues ironiques. Il est généreux de son temps et de ses conseils. Il a « vraiment nourri plusieurs générations de mathématiciens », a déclaré Mukherjee, l'un des anciens postdoctorants de Lyubich et un collaborateur fréquent. Comme il le raconte, toute personne intéressée par l’étude des dynamiques complexes passe du temps à Stony Brook pour apprendre de Lyubich. "Misha a cette vision de la façon dont nous devrions aborder un certain projet, ou de ce qu'il faut examiner ensuite", a déclaré Mukherjee. « Il a cette grande image en tête. Et il est heureux de partager cela avec les gens.

Pour la première fois, Lyubich a le sentiment de pouvoir voir ce grand tableau dans sa totalité.

Les combattants du prix

La série Mandelbrot a commencé par un prix.

En 1915, motivée par les progrès récents dans l'étude des fonctions, l'Académie française des sciences lance un concours : dans trois ans, elle offrira un grand prix de 3,000 XNUMX francs pour des travaux sur le processus d'itération, celui-là même qui permettrait générer plus tard l’ensemble de Mandelbrot.

L'itération est l'application répétée d'une règle. Branchez un nombre dans une fonction, puis utilisez la sortie comme prochaine entrée. Continuez ainsi et observez ce qui se passe au fil du temps. Au fur et à mesure que vous continuez à itérer votre fonction, les nombres que vous obtenez peuvent rapidement augmenter vers l'infini. Ou bien ils pourraient être attirés vers un numéro en particulier, comme de la limaille de fer se déplaçant vers un aimant. Ou finir par rebondir entre deux mêmes nombres, ou trois, ou mille, sur une orbite stable dont ils ne pourront jamais s'échapper. Ou sautez d'un numéro à un autre sans rime ni raison, en suivant un chemin chaotique et imprévisible.

L’Académie française, et plus largement les mathématiciens, avaient une autre raison de s’intéresser à l’itération. Le processus a joué un rôle important dans l’étude des systèmes dynamiques – des systèmes comme la rotation des planètes autour du soleil ou l’écoulement d’un courant turbulent, des systèmes qui changent au fil du temps selon un ensemble de règles spécifiées.

Le prix a inspiré deux mathématiciens à développer un tout nouveau domaine d'étude.

Il y a d'abord Pierre Fatou, qui dans une autre vie aurait pu être marin (une tradition familiale), n'eût été sa mauvaise santé. Il poursuivit plutôt une carrière en mathématiques et en astronomie et, en 1915, il avait déjà prouvé plusieurs résultats majeurs en analyse. Il y avait ensuite Gaston Julia, un jeune mathématicien prometteur né dans l'Algérie occupée par la France dont les études furent interrompues par la Première Guerre mondiale et sa conscription dans l'armée française. À l'âge de 22 ans, après avoir subi une grave blessure peu après avoir commencé son service – il portera un bracelet en cuir sur son visage pour le reste de sa vie, les médecins étant incapables de réparer les dégâts – il est revenu aux mathématiques, faisant certaines de ses le travail qu'il soumettrait pour le prix de l'Académie depuis un lit d'hôpital.

Le prix a motivé Fatou et Julia à étudier ce qui se passe lorsque l'on itère des fonctions. Ils ont travaillé de manière indépendante, mais ont fini par faire des découvertes très similaires. Il y avait tellement de chevauchement dans leurs résultats que, même aujourd'hui, il n'est pas toujours clair comment attribuer un crédit. (Julia était plus extravertie et a donc reçu plus d'attention. Il a fini par remporter le prix ; Fatou n'a même pas postulé.) Grâce à ce travail, les deux sont désormais considérés comme les fondateurs du domaine de la dynamique complexe.

« Complexe », parce que Fatou et Julia ont itéré des fonctions de nombres complexes – des nombres qui combinent un nombre réel familier avec un nombre dit imaginaire (un multiple de i, le symbole utilisé par les mathématiciens pour désigner la racine carrée de −1). Alors que les nombres réels peuvent être disposés sous forme de points sur une ligne, les nombres complexes sont visualisés sous forme de points sur un plan, comme ceci :

Fatou et Julia ont découvert que l'itération de fonctions complexes, même simples (ce qui n'est pas un paradoxe dans le domaine des mathématiques !) pouvait conduire à un comportement riche et complexe, selon votre point de départ. Ils ont commencé à documenter ces comportements et à les représenter géométriquement.

Mais leur travail est ensuite tombé dans l’oubli pendant un demi-siècle. « Les gens ne savaient même pas quoi chercher. Ils étaient limités quant aux questions à poser », a déclaré Artur Avila, professeur à l'Université de Zurich.

Cela a changé lorsque l’infographie est arrivée à maturité dans les années 1970.

Le mathématicien Benoît Mandelbrot s’était alors forgé une réputation de dilettante académique. Il avait touché à de nombreux domaines différents, de l'économie à l'astronomie, tout en travaillant au centre de recherche d'IBM au nord de New York. Lorsqu'il a été nommé IBM Fellow en 1974, il a eu encore plus de liberté pour poursuivre des projets indépendants. Il a décidé d'utiliser la puissance de calcul considérable du centre pour sortir des dynamiques complexes de leur hibernation.

Au début, Mandelbrot utilisait les ordinateurs pour générer le type de formes étudiées par Fatou et Julia. Les images codaient des informations sur le moment où un point de départ, lorsqu'il était itéré, s'échapperait à l'infini et quand il serait piégé dans un autre modèle. Les dessins de Fatou et Julia, 60 ans plus tôt, ressemblaient à des groupes de cercles et de triangles – mais les images générées par ordinateur réalisées par Mandelbrot ressemblaient à des dragons et des papillons, des lapins et des cathédrales et des têtes de chou-fleur, parfois même à des nuages ​​de poussière déconnectés. À cette époque, Mandelbrot avait déjà inventé le mot « fractale » pour désigner des formes qui se ressemblaient à différentes échelles ; le mot évoquait la notion d'un nouveau type de géométrie – quelque chose de fragmenté, fractionné ou brisé.

Les images apparaissant sur l’écran de son ordinateur – aujourd’hui connues sous le nom d’ensembles de Julia – étaient parmi les exemples de fractales les plus beaux et les plus complexes que Mandelbrot ait jamais vu.

Le travail de Fatou et Julia s'était concentré sur la géométrie et la dynamique de chacun de ces ensembles (et leurs fonctions correspondantes) individuellement. Mais les ordinateurs ont donné à Mandelbrot un moyen de penser simultanément à toute une famille de fonctions. Il pourrait tous les coder dans l’image qui porterait son nom, même si la question de savoir s’il a réellement été le premier à la découvrir reste un sujet de débat.

L'ensemble de Mandelbrot traite des équations les plus simples qui font encore quelque chose d'intéressant lorsqu'elles sont itérées. Ce sont des fonctions quadratiques de la forme f(z) = z² + c. Fixer une valeur de c — il peut s'agir de n'importe quel nombre complexe. Si vous répétez l'équation en commençant par z = 0 et constatez que les nombres que vous générez restent petits (ou bornés, comme disent les mathématiciens), alors c est dans l'ensemble de Mandelbrot. Si, d’un autre côté, vous parcourez et constatez que vos nombres commencent finalement à croître vers l’infini, alors c n'est pas dans l'ensemble de Mandelbrot.

Il est simple de montrer que les valeurs de c proches de zéro sont dans l'ensemble. Et il est tout aussi simple de montrer que les grandes valeurs de c ne le sont pas. Mais les nombres complexes portent bien leur nom : la limite de l’ensemble est magnifiquement complexe. Il n'y a aucune raison évidente pour laquelle changer c par de petites quantités devraient vous amener à continuer à franchir la frontière, mais lorsque vous zoomez dessus, une quantité infinie de détails apparaît.

De plus, l'ensemble de Mandelbrot agit comme une carte des ensembles de Julia, comme le montre la figure interactive ci-dessous. Choisissez une valeur de c dans l'ensemble de Mandelbrot. L'ensemble Julia correspondant sera connecté. Mais si vous quittez l'ensemble de Mandelbrot, alors l'ensemble de Julia correspondant sera déconnecté de la poussière.