Ce jeu a été étudié en 1950 par deux chercheurs de la RAND Corporation, un centre de recherche lié à l'armée américaine, et c'est le mathématicien Albert Tucker qui lui a donné son nom et son histoire. Deux complices sont arrêtés et interrogés séparément. Chacun peut se taire ou dénoncer l'autre.

• Si les deux se taisent, faute de preuves, ils ne prennent qu'un an de prison chacun.
• Si l'un dénonce et l'autre se tait, celui qui dénonce est libéré et l'autre prend dix ans.
• Si les deux se dénoncent, ils prennent cinq ans chacun.

Pour la suite, on remplace les années de prison par des gains, plus grands quand la situation est meilleure. On appelle « coopérer » le choix de se taire (coopérer avec son complice) et « trahir » le choix de dénoncer. On utilise les gains des tournois d'Axelrod, présentés plus loin. Dans chaque case, le premier nombre est le gain du joueur A (en ligne), le second celui du joueur B (en colonne).

Raisonnons à la place de A, qui ne sait pas ce que B va faire.

• Si B coopère, A gagne $3$ en coopérant et $5$ en trahissant : il vaut mieux trahir.
• Si B trahit, A gagne $0$ en coopérant et $1$ en trahissant : il vaut mieux trahir.

Quoi que fasse B, A a intérêt à trahir : on dit que trahir est une stratégie dominante. Le jeu est symétrique, donc B fait le même raisonnement. Les deux trahissent et gagnent $1$ chacun, alors qu'en coopérant, ils auraient gagné $3$ chacun. Chacun a agi au mieux de son intérêt, et le résultat est mauvais pour les deux : c'est le dilemme.

Une situation, c'est-à-dire un choix de stratégie pour chaque joueur, est un équilibre de Nash si aucun joueur ne peut augmenter son gain en changeant seul de stratégie, les autres gardant la leur. On dit aussi que la stratégie de chaque joueur est une meilleure réponse aux stratégies des autres.

Vérifions les quatre cases du tableau.

• (coopère ; coopère) : A passerait de $3$ à $5$ en trahissant. Ce n'est pas un équilibre.
• (coopère ; trahit) et (trahit ; coopère) : celui qui coopère passerait de $0$ à $1$ en trahissant. Ce ne sont pas des équilibres.
• (trahit ; trahit) : celui qui changerait seul passerait de $1$ à $0$. C'est le seul équilibre de Nash.

L'équilibre n'est pas forcément la meilleure situation collective. La situation (coopère ; coopère) est meilleure pour les deux : les économistes disent que l'équilibre n'est pas un optimum de Pareto. Ce dilemme se retrouve partout : deux entreprises qui dépensent beaucoup en publicité pour se prendre des clients, alors qu'elles gagneraient plus en dépensant moins toutes les deux ; des pays qui ont chacun intérêt à continuer à polluer, même si tous gagneraient à réduire leurs émissions ; des producteurs de pétrole qui s'entendent pour limiter leur production, et dont chacun est tenté de produire plus en secret.

Antoine Augustin Cournot (1801-1877). Wikimedia Commons, domaine public.

Plus d'un siècle avant Nash, le mathématicien et économiste français Antoine Augustin Cournot étudie en 1838 deux producteurs d'eau de source qui se partagent un marché : c'est un duopole. L'équilibre qu'il trouve est, en langage moderne, un équilibre de Nash. Prenons un exemple chiffré, inventé pour le calcul.

• Deux entreprises produisent le même bien, en quantités $q_1$ et $q_2$ (en milliers d'unités).
• Le prix de vente dépend de la quantité totale mise sur le marché : $p = 120 - (q_1 + q_2)$ euros. Plus on produit, plus il faut baisser le prix pour tout vendre.
• Chaque unité coûte $30$ euros à produire.

Le profit de l'entreprise 1 est sa recette moins son coût : $\pi_1 = p\,q_1 - 30\,q_1$, soit

Un exemple à la main. Si l'entreprise 2 produit $q_2 = 40$, le profit de l'entreprise 1 est $\pi_1 = q_1(50 - q_1)$. Avec $q_1 = 10$ : $400$ ; avec $q_1 = 25$ : $625$ ; avec $q_1 = 40$ : $400$. Le meilleur choix semble être $q_1 = 25$.

Par symétrie, la meilleure réponse de l'entreprise 2 est $q_2 = \dfrac{90 - q_1}{2}$.

À l'équilibre de Nash, chaque entreprise joue sa meilleure réponse à la production de l'autre. On résout le système

• En soustrayant les deux égalités : $q_1 - q_2 = \dfrac{q_1 - q_2}{2}$, donc $q_1 - q_2 = 0$ : les deux entreprises produisent la même quantité $q$.
• Alors $q = \dfrac{90 - q}{2}$, soit $3q = 90$ et $q = 30$.
• Le prix vaut $p = 120 - 60 = 60$ euros, et chaque entreprise gagne $30 \times (60 - 30) = 900$ (milliers d'euros).

Comparaison avec le monopole. Une seule entreprise maximiserait $Q(90 - Q)$, d'où $Q = 45$, $p = 75$ euros et un profit de $2\,025$. Les deux entreprises de Cournot produisent plus ($60$), vendent moins cher ($60$ euros) et gagnent moins à elles deux ($1\,800$). Le consommateur y gagne.

Le dilemme réapparaît. Si les deux entreprises s'entendaient pour produire chacune la moitié du monopole, $22{,}5$, chacune gagnerait $22{,}5 \times 45 = 1\,012{,}5$, plus que $900$. Mais face à un concurrent qui produit $22{,}5$, la meilleure réponse est $\dfrac{90 - 22{,}5}{2} = 33{,}75$, qui rapporte $33{,}75 \times 33{,}75 \approx 1\,139$ : chacune est tentée de tricher. C'est pourquoi les ententes entre entreprises (les cartels) sont instables, et pourquoi elles sont interdites par le droit de la concurrence.

Avec $n$ entreprises identiques, le même raisonnement donne, pour chacune, la condition $90 - 2q_i - (\text{production des autres}) = 0$. À l'équilibre, toutes produisent la même quantité $q$, et les $n - 1$ autres produisent $(n-1)q$ : $90 - 2q - (n-1)q = 0$, soit

Pour $n = 1$, on retrouve le monopole ($p_1 = 75$), pour $n = 2$ le duopole ($p_2 = 60$). La suite $(p_n)$ est décroissante et tend vers $30$, le coût de production : plus il y a d'entreprises, plus le prix se rapproche du coût, et le profit de chacune tend vers $0$. C'est la situation de concurrence parfaite décrite par les économistes. Le modèle de Cournot relie ainsi le monopole et la concurrence par une limite.

Dans la vie réelle, on rencontre souvent les mêmes personnes, les mêmes entreprises concurrentes, les mêmes pays. Si le dilemme du prisonnier se répète, trahir aujourd'hui peut coûter cher demain : l'autre peut se venger. Pour en tenir compte, on suppose qu'après chaque partie, il y a une nouvelle partie avec la probabilité $\delta$ (avec $0 < \delta < 1$), indépendamment des parties précédentes.

Le nombre de parties. Le jeu s'arrête après chaque partie avec la probabilité $1 - \delta$. Le nombre $N$ de parties jouées suit donc la loi géométrique de paramètre $1 - \delta$, d'espérance $\dfrac{1}{1 - \delta}$. Avec $\delta = 0{,}9$, on joue en moyenne $10$ parties.

Le gain total espéré. La partie numéro $k$ (en comptant la première comme la partie $0$) a lieu avec la probabilité $\delta^k$. Si on gagne $g$ à chaque partie, le gain total espéré est la somme des termes d'une suite géométrique :

Comme $0 < \delta < 1$, $\delta^{n+1}$ tend vers $0$ et ce gain tend vers $\dfrac{g}{1 - \delta}$ quand $n$ tend vers $+\infty$. Les économistes appellent $\delta$ le facteur d'actualisation : il mesure le poids que l'on donne au futur.

Supposons que B joue la stratégie « rancunière » : il coopère tant que A coopère, mais trahit pour toujours dès que A a trahi une fois. A a deux possibilités.

• Toujours coopérer : A gagne $3$ à chaque partie, soit en tout $\dfrac{3}{1 - \delta}$.
• Trahir dès la première partie : A gagne $5$ une fois, puis $1$ à chaque partie suivante, soit $5 + \delta + \delta^2 + \cdots$, c'est-à-dire $5 + \dfrac{\delta}{1 - \delta}$.

Si le futur compte assez (si l'on a au moins une chance sur deux de se revoir), la coopération devient la stratégie la plus rentable, sans aucune morale : c'est l'ombre du futur. À l'inverse, si l'on sait que le jeu s'arrête à une date connue, le raisonnement change : à la dernière partie, il n'y a plus de futur, donc chacun trahit ; mais alors, à l'avant-dernière partie, la dernière est déjà jouée d'avance, donc chacun trahit aussi, et ainsi de suite en remontant. C'est l'un des paradoxes de la théorie des jeux.