Une machine Enigma à trois rotors, exposée au musée de la NSA. À l'avant, le tableau de connexions et ses câbles. Photo : Wikimedia Commons, domaine public.

Enigma est une machine à chiffrer électromécanique utilisée par l'armée allemande. Quand on tape une lettre, un courant traverse un tableau de connexions, puis trois rotors (des disques dont les contacts sont câblés en désordre), et une lampe s'allume sur une autre lettre. Après chaque lettre tapée, le premier rotor tourne d'un cran : la même lettre n'est donc pas chiffrée deux fois de la même façon. Pour déchiffrer, le destinataire règle sa machine exactement comme l'expéditeur et tape le message chiffré.

Le secret tient dans le réglage du jour. Combien y en a-t-il ? Faisons le compte pour le modèle de l'armée de terre au début de la guerre : trois rotors choisis parmi cinq, et un tableau de connexions à dix câbles.

• Le choix et l'ordre des rotors. On place trois rotors, choisis parmi cinq, dans trois emplacements : $5$ choix pour le premier emplacement, $4$ pour le deuxième, $3$ pour le troisième. Cela fait $5 \times 4 \times 3 = 60$ possibilités.
• La position de départ. Chaque rotor peut démarrer sur l'une des $26$ lettres : $26^3 = 17\,576$ possibilités.

Un câble relie deux lettres et les échange (si A est relié à T, le A devient T et le T devient A).

À la main, avec un câble. Il faut choisir les deux lettres reliées, sans ordre : $\dbinom{26}{2} = \dfrac{26 \times 25}{2} = 325$ possibilités.

Avec deux câbles. On choisit d'abord les $4$ lettres concernées : $\dbinom{26}{4} = 14\,950$ façons. Puis on les répartit en deux paires : la première lettre (dans l'ordre alphabétique) a $3$ partenaires possibles, et les deux lettres restantes forment la seconde paire. Cela donne $14\,950 \times 3 = 44\,850$ possibilités.

Avec dix câbles. On choisit les $20$ lettres reliées, puis on les répartit en $10$ paires :

soit $230\,230 \times 654\,729\,075$.

On obtient environ $1{,}5 \times 10^{14}$ câblages possibles, cent cinquante mille milliards.

Par le principe multiplicatif, le nombre de réglages est

Si l'on essayait un réglage par microseconde, il faudrait plus de cinq millions d'années pour tous les tester. D'autres éléments (les bagues des rotors, le choix des rotors parmi huit dans la marine) augmentent encore ce nombre ; les chiffres donnés varient selon ce que l'on compte.

Pourtant, Enigma a été cassée. Le nombre de réglages ne fait pas la sécurité d'un code. En 1932, le mathématicien polonais Marian Rejewski, du Bureau du chiffre de Varsovie, reconstitue le câblage des rotors en utilisant la théorie des permutations et des documents obtenus par les services français. Avec Jerzy Różycki et Henryk Zygalski, il met au point des méthodes et des machines pour retrouver les réglages. En juillet 1939, quelques semaines avant l'invasion de la Pologne, les Polonais transmettent leurs résultats aux Français et aux Britanniques.

À Bletchley Park, en Angleterre, Alan Turing et Gordon Welchman conçoivent des machines électromécaniques, les « bombes », qui éliminent très vite les réglages impossibles. Elles exploitent des faiblesses du système : par construction, une lettre n'est jamais chiffrée par elle-même, et les messages contiennent souvent des mots prévisibles (un bulletin météo, une formule de politesse). Chaque supposition élimine d'un coup un nombre immense de réglages. Des milliers de personnes, en majorité des femmes, travaillaient à Bletchley Park. L'importance exacte de ce travail sur la durée de la guerre reste discutée par les historiens.

Les Alliés veulent savoir combien de chars l'Allemagne produit chaque mois. Les services de renseignement donnent des estimations très élevées. Des statisticiens proposent une autre méthode : les pièces des chars capturés ou détruits (châssis, boîtes de vitesses, roues) portent des numéros de série, attribués dans l'ordre de fabrication : $1, 2, 3, \ldots, N$. Connaissant quelques numéros, peut-on estimer $N$ ?

Un exemple à la main. On a capturé quatre chars, de numéros $19$, $40$, $42$ et $60$. Le plus grand numéro observé est $m = 60$ : il y a au moins $60$ chars. Mais il y en a sûrement plus, car il serait étonnant d'avoir capturé précisément le dernier. Les quatre numéros découpent l'intervalle de $1$ à $60$ en morceaux ; en moyenne, il manque $\dfrac{60}{4} = 15$ numéros entre deux numéros observés. On propose donc d'ajouter cet écart moyen au maximum :

où $k = 4$ est le nombre de chars observés. Cette formule est celle qu'utilisaient les statisticiens alliés.

Justifions la formule dans le cas le plus simple, $k = 1$. Elle s'écrit alors $\widehat{N} = 2m - 1$.

On dit que $2M - 1$ est un estimateur sans biais de $N$ : il ne tombe pas toujours juste, mais il ne se trompe pas systématiquement dans un sens. Avec $k$ chars, on admet que le plus grand numéro $M$ a pour espérance $E(M) = \dfrac{k(N+1)}{k+1}$, et un calcul semblable montre que $M + \dfrac{M}{k} - 1$ est aussi sans biais.

Après la guerre, on a pu comparer avec les registres de production allemands. Selon les chiffres souvent cités, publiés en 1947 par deux économistes américains, pour la production mensuelle de chars :

Les estimations statistiques étaient bien plus proches de la réalité que celles du renseignement classique, qui surestimait l'ennemi. La simulation suivante tire au hasard $k$ numéros parmi $N$ un grand nombre de fois et calcule la moyenne des estimations : plus le nombre de simulations est grand, plus il est probable que cette moyenne soit proche de $N$.

Pendant la guerre, des statisticiens américains sont réunis à l'université Columbia, à New York, dans un « groupe de recherche statistique » qui travaille pour l'armée. Parmi eux, Abraham Wald, mathématicien né en 1902 dans l'Empire austro-hongrois, réfugié aux États-Unis en 1938. En 1943, il rédige des notes sur une question : comment estimer la vulnérabilité des différentes parties d'un avion à partir des impacts relevés sur les avions qui sont revenus ?

La version populaire de l'histoire dit : les militaires voulaient renforcer les zones les plus criblées de trous, et Wald leur aurait répondu qu'il fallait au contraire renforcer les zones intactes, car les avions touchés là ne revenaient pas. L'idée est juste, mais le récit est simplifié et embelli : les notes de Wald sont des calculs de probabilités, pas une anecdote, et l'on ne sait pas exactement quelle suite l'armée leur a donnée.

Prenons un modèle très simplifié, avec des valeurs choisies pour l'exemple. Un avion reçoit un impact, sur le moteur avec la probabilité $0{,}25$, ailleurs (fuselage, ailes) avec la probabilité $0{,}75$. Un avion touché au moteur rentre avec la probabilité $0{,}4$ ; touché ailleurs, avec la probabilité $0{,}9$. On note $M$ « l'impact est sur le moteur » et $R$ « l'avion rentre ».

• $P(M \cap R) = 0{,}25 \times 0{,}4 = 0{,}1$ ;
• $P(\overline{M} \cap R) = 0{,}75 \times 0{,}9 = 0{,}675$ ;
• par la formule des probabilités totales, $P(R) = 0{,}1 + 0{,}675 = 0{,}775$.

Parmi les avions qui rentrent, la proportion d'impacts au moteur est

Sur les avions examinés au retour, on ne voit que $13\,\%$ d'impacts au moteur, alors que $25\,\%$ des impacts touchent le moteur. Les impacts « manquants » sont sur les avions qui ne sont pas revenus. Conclusion : moins on voit d'impacts sur une zone parmi les survivants, plus cette zone est vulnérable. Confondre $P_R(M)$ et $P(M)$, c'est tomber dans le biais du survivant : on étudie seulement ceux qui ont « survécu » à une sélection, et l'on oublie les autres. On retrouve ce biais partout : les entreprises qui réussissent, les vieux bâtiments « si solides » (les fragiles ont disparu), les fonds de placement dont on ne garde que les meilleurs.

Quand un noyau d'uranium 235 absorbe un neutron, il peut se casser en deux (c'est la fission) en libérant de l'énergie et deux ou trois neutrons. Ces neutrons peuvent à leur tour provoquer d'autres fissions. Notons $k$ le nombre moyen de nouvelles fissions provoquées par une fission : une partie des neutrons s'échappe ou est absorbée sans fission. Si $u_n$ est le nombre de fissions de la génération $n$, alors $u_{n+1} = k\,u_n$, donc $u_n = u_0\,k^n$.

• Si $k < 1$ (masse dite sous-critique) : la suite tend vers $0$, la réaction s'éteint. Le nombre total de fissions est la somme d'une suite géométrique : il tend vers $\dfrac{u_0}{1 - k}$.
• Si $k = 1$ (masse critique) : le nombre de fissions reste constant. C'est le régime d'un réacteur nucléaire.
• Si $k > 1$ : la suite tend vers $+\infty$. Avec $k = 2$, il suffit de $80$ générations pour atteindre $2^{80} \approx 1{,}2 \times 10^{24}$ fissions, l'ordre de grandeur du nombre de noyaux dans quelques centaines de grammes d'uranium. Une génération dure de l'ordre de quelques milliardièmes de seconde : tout se joue en moins d'une microseconde.

Tout le problème est d'obtenir $k > 1$ au bon moment, en rassemblant assez de matière très vite. Le 2 décembre 1942, à Chicago, l'équipe d'Enrico Fermi obtient la première réaction en chaîne contrôlée, avec $k$ à peine supérieur à $1$.

Pour savoir quelle proportion des neutrons provoque une fission, il faut suivre leurs trajets au hasard dans la matière. Les équations sont trop compliquées pour être résolues à la main. Pour ce problème, Stanislaw Ulam et John von Neumann développent, juste après la guerre, la méthode de Monte-Carlo : on simule un très grand nombre de trajets aléatoires. Elle est présentée dans le texte La méthode de Monte-Carlo.

Les bombes larguées sur Hiroshima le 6 août 1945 et sur Nagasaki le 9 août 1945 ont tué des dizaines de milliers de personnes sur le coup, et bien davantage dans les mois qui ont suivi. La responsabilité des scientifiques face à l'usage de leurs travaux est depuis une grande question éthique.

Pour toucher une cible à une distance donnée, un artilleur doit connaître l'angle de tir. Sans frottement de l'air, la trajectoire d'un obus est une parabole, et le calcul est simple. Mais l'air freine l'obus, d'autant plus qu'il va vite, et la portée réelle est bien plus courte. Les armées utilisaient donc des tables de tir, qui donnaient l'angle pour chaque distance, chaque canon et chaque type d'obus. Une table demandait le calcul de centaines, voire de milliers de trajectoires.

Aux États-Unis, au laboratoire de balistique d'Aberdeen, ces calculs étaient faits par des équipes de « calculatrices », le plus souvent des femmes diplômées en mathématiques, avec des machines à calculer mécaniques. Une seule trajectoire demandait de l'ordre d'une journée de travail. Avec la guerre, les besoins explosent : c'est pour accélérer ces calculs que l'armée finance, à partir de 1943, la construction d'un calculateur électronique, l'ENIAC.

Prenons un modèle simple : le frottement de l'air est proportionnel à la vitesse, avec un coefficient $k = 0{,}1$ par seconde, et $g = 9{,}8$ m/s². Notons $u$ la vitesse horizontale et $w$ la vitesse verticale. La deuxième loi de Newton donne

Ce sont des équations de la forme $y' = ay + b$, que l'on sait résoudre en terminale. Par exemple, avec $w(0) = w_0$, la solution est $w(t) = \left(w_0 + \dfrac{g}{k}\right)\mathrm{e}^{-kt} - \dfrac{g}{k}$. Mais pour un vrai obus, le frottement est plutôt proportionnel au carré de la vitesse, et dépend de l'altitude : il n'y a plus de formule. On calcule alors la trajectoire pas à pas.

Sur un petit intervalle de temps $h$, on remplace la vitesse de variation par sa valeur au début de l'intervalle : $w(t + h) \approx w(t) + h \times w'(t)$. Avec $w_0 = 50$ m/s et un pas $h = 1$ s :

• $w'(0) = -9{,}8 - 0{,}1 \times 50 = -14{,}8$, donc $w(1) \approx 50 - 14{,}8 = 35{,}2$ ;
• $w'(1) \approx -9{,}8 - 0{,}1 \times 35{,}2$, soit $-13{,}32$, donc $w(2) \approx 35{,}2 - 13{,}32 = 21{,}88$.

La formule exacte donne $w(1) = 148\,\mathrm{e}^{-0{,}1} - 98 \approx 35{,}92$ : l'erreur d'Euler est d'environ $0{,}7$ m/s après une seconde. Plus le pas est petit, plus l'approximation est bonne, mais plus il faut de calculs. La figure compare la trajectoire exacte de ce modèle (en bleu) et celle calculée par la méthode d'Euler (en rouge), pour un tir à $100$ m/s sous un angle de $45°$.

Avec un pas de $2$ s, la méthode d'Euler surestime la portée d'environ $50$ m ; avec un pas de $0{,}1$ s, l'erreur n'est plus que de quelques mètres. Les méthodes utilisées réellement étaient plus précises que celle d'Euler, mais elles reposent sur la même idée : avancer pas à pas.

Deux programmeuses de l'ENIAC, Betty Jennings (à gauche) et Frances Bilas, préparent la machine pour sa présentation publique en février 1946. Photo de l'armée américaine, Wikimedia Commons, domaine public.

L'ENIAC, construit à l'université de Pennsylvanie par John Mauchly et J. Presper Eckert, comptait environ $18\,000$ tubes électroniques et occupait une grande salle. Il calculait une trajectoire en quelques dizaines de secondes, plus vite que l'obus lui-même ne volait. Paradoxe : il n'a été achevé qu'à la fin de 1945, après la guerre, et ses premiers calculs ont servi aux recherches sur la bombe à hydrogène.

Six femmes, recrutées parmi les calculatrices du laboratoire, ont été chargées de le programmer : Kathleen McNulty, Jean Jennings, Betty Snyder, Marlyn Wescoff, Frances Bilas et Ruth Lichterman. Il n'y avait ni langage de programmation ni écran : programmer consistait à brancher des câbles et à régler des interrupteurs, à partir de schémas du calcul. Lors de la présentation de 1946, on ne les a pas présentées au public, et leur rôle n'a été reconnu que des décennies plus tard.