Isaac Newton (1643-1727) met au point sa méthode vers 1665-1666, pendant que l'université de Cambridge est fermée à cause de la peste. Il pense en mouvement : une quantité $x$ « coule » avec le temps, c'est une fluente ; sa vitesse d'écoulement est sa fluxion, notée avec un point au-dessus de la lettre, $\dot{x}$. Les physiciens utilisent encore cette notation pour une dérivée par rapport au temps.

Pour calculer, Newton ajoute à $x$ un accroissement minuscule qu'il note $o$ (la lettre o). Dans son De quadratura curvarum, publié en 1704, il traite $x^n$ : il développe $(x+o)^n$, retranche $x^n$, divise par $o$, puis « laisse les accroissements s'évanouir ». Il parle de la dernière raison des accroissements évanouissants : le rapport qu'ils ont au moment où ils disparaissent. Ses travaux, très peu publiés, circulent d'abord en manuscrits entre quelques savants anglais.

Gottfried Wilhelm Leibniz (1646-1716), philosophe et diplomate allemand, apprend les mathématiques à Paris auprès de Huygens entre 1672 et 1676 et lit les travaux de Pascal. Dans ses notes de l'automne 1675 apparaissent les deux signes que nous utilisons toujours : $\int$ (un S allongé, pour « somme ») et $\mathrm{d}$ (pour « différence »). Il publie sa méthode en 1684, dans la revue savante de Leipzig Acta Eruditorum, sous le titre Nova methodus pro maximis et minimis (« Nouvelle méthode pour les maxima et les minima »).

Pour Leibniz, $\mathrm{d}x$ est une différence infiniment petite entre deux valeurs voisines de $x$, et $\mathrm{d}y$ la différence correspondante des valeurs de $y$. La pente de la tangente est leur quotient $\dfrac{\mathrm{d}y}{\mathrm{d}x}$. Sa règle de calcul tient en une phrase : on calcule la différence exacte, puis on néglige les termes infiniment plus petits que les autres.

La première page de l'article de Leibniz, Acta Eruditorum, octobre 1684 : la première publication du calcul différentiel. Image : Wikimedia Commons, domaine public.

Prenons $y = x^2$. Quand $x$ devient $x + \mathrm{d}x$, $y$ devient $(x + \mathrm{d}x)^2$.

Étape 1 : la différence exacte. On développe avec l'identité remarquable :

Étape 2 : on néglige. Si $\mathrm{d}x$ est infiniment petit, $(\mathrm{d}x)^2$ est infiniment petit par rapport à $\mathrm{d}x$ : Leibniz l'efface. Il reste $\mathrm{d}y = 2x\,\mathrm{d}x$, donc

C'est bien la dérivée de $x^2$ que donne le cours. La figure suivante montre ce calcul sur un carré de côté $x = 2$ qui grandit de $\mathrm{d}x$ : l'aire gagnée est formée de deux bandes d'aire $x\,\mathrm{d}x$ et d'un petit carré d'aire $(\mathrm{d}x)^2$. Quand $\mathrm{d}x$ diminue, le petit carré devient négligeable devant les bandes.

Même méthode avec $y = x^3$. Le développement $(a+b)^3 = a^3 + 3a^2b + 3ab^2 + b^3$ donne :

Les deux derniers termes sont infiniment petits devant le premier : on les efface, et $\dfrac{\mathrm{d}y}{\mathrm{d}x} = 3x^2$. Géométriquement, un cube de côté $x$ qui grandit gagne trois plaques de volume $x^2\,\mathrm{d}x$, trois baguettes de volume $x\,(\mathrm{d}x)^2$ et un petit cube de volume $(\mathrm{d}x)^3$.

L'article de 1684 donne la règle $\mathrm{d}(xv) = x\,\mathrm{d}v + v\,\mathrm{d}x$. Son calcul est le même : quand $x$ et $v$ augmentent de $\mathrm{d}x$ et $\mathrm{d}v$,

et le produit $\mathrm{d}x\,\mathrm{d}v$, infiniment plus petit, est effacé. C'est la formule du cours $(uv)' = u'v + uv'$. Toute la force de la notation est là : des règles simples, qu'on applique sans réfléchir, et qui donnent les bonnes réponses. Les frères Jacques et Jean Bernoulli s'en emparent, et en 1696 le marquis de L'Hôpital publie à Paris le premier manuel, au titre éloquent : Analyse des infiniment petits pour l'intelligence des lignes courbes.

Reprenons le calcul de $x^2$ à la manière de Newton, avec un accroissement $o$ :

Ce calcul contient deux hypothèses contradictoires :

• pour diviser par $o$, il faut que $o$ ne soit pas nul ;
• pour passer de $2x + o$ à $2x$, on fait comme si $o$ était nul.

Chez Leibniz, la même difficulté prend une autre forme : si $(\mathrm{d}x)^2$ n'est pas nul, l'égalité $\mathrm{d}y = 2x\,\mathrm{d}x$ est fausse ; s'il est nul, alors $\mathrm{d}x$ aussi, et le quotient $\dfrac{\mathrm{d}y}{\mathrm{d}x}$ vaut $\dfrac{0}{0}$. Leibniz lui-même hésitait : il parlait parfois de « fictions utiles ». Euler, au milieu du XVIII^e siècle, assume l'autre branche : pour lui les infiniment petits sont de vrais zéros, et le calcul différentiel est un calcul sur les rapports entre zéros.

À Paris, le livre de L'Hôpital provoque un débat à l'Académie royale des sciences entre 1700 et 1706. Michel Rolle (1652-1719), connu aujourd'hui pour le théorème qui porte son nom, attaque le nouveau calcul : il le juge mal fondé et présente des exemples de courbes où, selon lui, la méthode conduit à des erreurs. Pierre Varignon défend Leibniz, Joseph Saurin répond aux exemples de Rolle, et l'Académie finit par faire cesser la dispute. Selon Fontenelle, Rolle se serait ensuite rallié au calcul ; ce récit est à prendre avec prudence.

En 1734, dans ses Lettres philosophiques, Voltaire présente au public français la science de Newton, qu'il admire. Dans la lettre « Sur l'infini et sur la chronologie », il décrit le calcul différentiel et intégral ainsi :

« C'est l'art de nombrer et de mesurer avec exactitude ce dont on ne peut pas même concevoir l'existence. »

Puis il s'amuse : « ne croiriez-vous pas qu'on veut se moquer de vous, quand on vous dit qu'il y a des lignes infiniment grandes qui forment un angle infiniment petit ? » Voltaire ne rejette pas le calcul : il souligne qu'il donne des résultats exacts à partir d'objets inimaginables, et conclut que c'est par cette « géométrie de l'infini » que Newton a obtenu ses plus grandes découvertes.

George Berkeley vers 1727 et la page de titre de The Analyst (1734). Portrait par John Smibert (Commons) et page de titre (Commons), domaine public.

La même année, le philosophe irlandais George Berkeley (1685-1753), évêque anglican, publie The Analyst (« L'Analyste »), sous-titré Discours adressé à un mathématicien incroyant. Le mathématicien visé serait Edmond Halley, l'ami de Newton, réputé athée. Le raisonnement de Berkeley est habile : les mathématiciens reprochent aux croyants d'accepter des mystères ; or eux-mêmes acceptent des objets qu'ils ne savent pas définir. Leur foi dans les fluxions n'est donc pas plus rationnelle que la foi religieuse.

Sur le fond, Berkeley pointe exactement la contradiction vue plus haut : Newton suppose $o$ non nul pour diviser, puis nul pour conclure. Ce changement d'hypothèse en cours de raisonnement serait refusé dans n'importe quelle démonstration. Il écrit, à propos des accroissements évanouissants :

« Ils ne sont ni des quantités finies, ni des quantités infiniment petites, ni pourtant rien. Ne pourrions-nous pas les appeler les fantômes des quantités disparues ? »

Berkeley ne dit pas que les résultats sont faux : il les reconnaît justes, mais soutient qu'ils sont obtenus par une compensation d'erreurs, deux fautes qui s'annulent. Les réponses des partisans de Newton (Jurin, puis Maclaurin en 1742) ne règlent pas vraiment la question. Elle restera ouverte pendant près d'un siècle.

En terminale, une suite $(u_n)$ a pour limite le réel $\ell$ si tout intervalle ouvert contenant $\ell$ contient tous les termes de la suite à partir d'un certain rang. Il suffit de le vérifier pour les intervalles $]\ell - \varepsilon\,;\,\ell + \varepsilon[$, avec $\varepsilon > 0$ : la suite finit par rester à une distance de $\ell$ plus petite que $\varepsilon$, aussi petit que soit $\varepsilon$.

Le nombre dérivé de $f$ en $a$ est la limite, quand $h$ tend vers $0$ (avec $h \neq 0$), du taux d'accroissement

Étape 1 : simplifier le taux pour $h \neq 0$.

Comme $h \neq 0$, on peut diviser par $h$ en toute légitimité : $\tau(h) = 6 + h$. C'est le calcul de Newton, mais on n'a jamais supposé $h = 0$.

Étape 2 : des valeurs. Pour $h = 0{,}1$, $0{,}01$ et $0{,}001$, on obtient $6{,}1$, $6{,}01$ et $6{,}001$.

Étape 3 : la limite, avec une suite. Prenons $h_n = \dfrac{1}{n}$ pour $n \geqslant 1$. Alors $\tau(h_n) = 6 + \dfrac{1}{n}$. Soit $\varepsilon > 0$. L'écart à $6$ vaut

et $\dfrac{1}{n} < \varepsilon$ dès que $n > \dfrac{1}{\varepsilon}$. Par exemple, pour $\varepsilon = 0{,}001$, tous les termes à partir du rang $1\,001$ sont dans $]5{,}999\,;\,6{,}001[$. Le même raisonnement vaut pour toute suite $(h_n)$ de réels non nuls qui tend vers $0$ : $\tau(h_n) = 6 + h_n$ tend vers $6$. Donc $f'(3) = 6$.

Dans l'exemple de la chute, $d(t) = 4{,}9\,t^2$, le même calcul donne une vitesse à l'instant $3$ égale à $4{,}9 \times 6 = 29{,}4$ m/s, la valeur que suggérait le tableau du début.

Soit $f(x) = x^3$ et $a$ un réel. Pour $h \neq 0$, avec le développement de $(a+h)^3$ :

Soit $(h_n)$ une suite de réels non nuls de limite $0$. Par les opérations sur les limites, $3ah_n$ tend vers $0$ et $h_n^2$ tend vers $0$, donc $\tau(h_n)$ tend vers $3a^2$. Ainsi $f'(a) = 3a^2$ : c'est le résultat de Leibniz. Les termes $3ah$ et $h^2$ qu'il « négligeait » sont bien présents, mais ils tendent vers $0$ : la limite justifie, après coup, ce que Leibniz faisait d'instinct.

Un ordinateur ne peut pas calculer une limite : il calcule des taux pour des $h$ de plus en plus petits. Le programme ci-dessous calcule le taux de $x^3$ en $2$, dont la limite est $3 \times 2^2 = 12$, pour $h = 10^{-1}$, $10^{-2}$, … jusqu'à $10^{-16}$.

Le taux s'approche de $12$ jusqu'à $h$ de l'ordre de $10^{-8}$, puis se dégrade, et finit par valoir $0$ : la machine ne garde qu'environ $16$ chiffres significatifs, et $2 + h$ devient égal à $2$ quand $h$ est trop petit. Le vrai calcul de la dérivée ne peut pas se faire « avec un $h$ très petit » ; il demande un raisonnement sur la limite, comme ci-dessus.