vignette|Le carré de côté a la même aire que le cercle de rayon 1. La quadrature du cercle est un problème classique de mathématiques apparaissant en géométrie. Il fait partie des trois grands problèmes de l'Antiquité, avec la trisection de l'angle et la duplication du cube.

Le problème consiste à construire un carré de même aire qu'un disque donné à l'aide d'une règle et d'un compas (voir Nombre constructible).

La quadrature du cercle nécessiterait la construction à la règle et au compas de la racine carrée du nombre , ce qui est impossible en raison de la transcendance de . Ne sont constructibles que certains nombres algébriquesThéorème de Wantzel..

Ce problème impossible à résoudre a donné naissance à l'expression , qui signifie tenter de résoudre un problème insoluble.

De plus, ce problème mathématique est celui qui a résisté le plus longtemps aux mathématiciens. Ils ont mis plus de trois millénaires à étudier le problème, reconnu comme insoluble par Ferdinand von Lindemann en 1882.

Histoire Orient antique thumb|La construction égyptienne d'après le papyrus Rhind. Les civilisations agraires de l'Orient ancien disposaient de méthodes empiriques d'estimation des surfaces circulaires. Ainsi l'un des problèmes donnés comme résolus par le papyrus Rhind, rédigé vers 1650 , donne le carré de côté 8 comme de même surface qu'un cercle de diamètre 9, ce qui revient à prendre pour le nombre la valeur approchée 3 + + +  = 3,16… De telles méthodes étaient le fruit d'une longue pratique, et suffisaient aux hommes de ce temps : on ne faisait alors pas encore la distinction entre connaissance utile et connaissance exacteCf. ..

La démarche hypothético-déductive, qui substitua aux recueils de problèmes résolus des énoncés démontrés à partir de quelques propriétés prises comme axiomes, ne s'est imposée en mathématiques qu'à partir du , et encore uniquement dans le monde grec. Déjà apparente dans les raisonnements attribués à Thalès de Milet., elle est clairement élevée au rang de méthode avec Pythagore de Samos et l’École pythagoricienne. La découverte, au tournant du au , de segments incommensurables entre eux, attribuée au présumé pythagoricien Hippase de Métaponte, avait prouvé qu'il existe des objets constructibles qui ne sont pas une fraction simple d'entiers : par exemple, la diagonale d'un carré n'est pas une fraction simple du côté du carré. Il suivit de là que l'arithmétique fut reléguée chez les Grecs au second plan derrière la géométrie : pour décider de l'égalité de deux rapports de longueurs, on s'en remit désormais aux constructions géométriques, c'est-à-dire à la comparaison de figures, et à la décomposition des surfaces en triangles rectangles ou en carrés. Les trois grands problèmes classiques de construction géométriques naissent au : ce sont la quadrature du cercle, la trisection de l'angle et le « problème délien » de la duplication du cube.

L’obligation de donner une construction à la règle et au compas ne s’imposa pas d’emblée : les sophistes découvrirent en effet assez vite aux trois problèmes classiques des solutions constructives qui utilisaient d’autres instruments. Mais en l’espace d’un siècle, le principe s’établit chez les géomètres de se limiter à l’emploi d'instruments imposés pour la construction. À l’époque de Pappus d'Alexandrie, l'injonction de la construction à la règle et au compas s'était en tout cas définitivement généraliséePappus qualifie en effet de « mécanique » (c'est-à-dire non géométrique) la génération de la quadratrice : ..

Grèce antique L’un des premiers à signaler l’antiquité de ce problème est l’écrivain grec Plutarque, lequel rapporte que c’est le philosophe Anaxagore, emprisonné, qui aurait énoncé (ou dessiné : dans le texteCf. Plutarque, « Sur l’exil » ( - De exilio), in Parva moralia.) la quadrature du cercle, mais il ne dit rien de plus sur la construction d’AnaxagoreD'après .. La détention d’Anaxagore à Athènes pour « impiété » est placée généralement aux alentours de l’an , date assurée de sa fuite en exil. Les sources les plus complètes sur les origines de cette énigme se trouvent surtout dans des commentaires tardifs des œuvres d’AristoteAristote, Les premiers Analytiques, II, 25, 69 a 32 ; Les seconds Analytiques, I, 9 76 a ; Réfutations sophistiques, 11, 171 b 16 et 172 a., autrement dit des écrits postérieurs de 900 ans aux événements : l’ordre dans lequel les travaux se sont effectués, et le cheminement des idées sont donc d’autant plus incertains. Les travaux les plus considérables du sont d’Hippocrate de Chios, Antiphon, Bryson d’Héraclée et Hippias d'Élis.

thumb|La lunule d’Hippocrate : la surface de la lunule (en grisé) est égale à celle du triangle rectangle ABC. Le pavage d’un polygone en triangles rectangles, le calcul de la surface du triangle rectangle ou la construction d’un carré contenant deux carrés donnés étaient devenus élémentaires lorsque, vers , Hippocrate de Chios fit cette découverte fondamentale que même certaines lignes courbes fermées peuvent être quarrées exactement. Partant de l’axiome selon lequel les surfaces de deux segments circulaires sont dans le même rapport que les carrés de leurs cordes, il construisit une surface exactement quarrable et dont les contours sont des arcs de cercle : la lunule d’HippocrateCf. .. Cette découverte ne signifiait pourtant nullement que la quadrature du cercle était en vue, car seules des lunules particulières (celles construites sur le côté d'un carré) sont exactement quarrables.

Puisque l'on peut effectuer un pavage exact du carré par des triangles (et donc des polygones quelconques), une deuxième voie consista à rechercher des polygones de même surface que le cercle. Antiphon eut l'idée d'approcher le périmètre du cercle par celui de polygones réguliers inscrits dont le nombre de côtés allait croissant. Bryson d’Héraclée affina ce procédé en encadrant le cercle à la fois par des polygones inscrits et circonscrits, et en retenant à chaque fois la valeur moyenneCf. ..

Hippias d’Élis avait imaginé, vers , de diviser un angle donné quelconque en trois au moyen d'une courbe auxiliaire, décrite par composition d'un mouvement rectiligne uniforme avec un mouvement circulaire uniforme. Il fallut toutefois attendre plus d'un siècle pour que Dinostrate découvre qu'il était possible, avec cette même courbe, la quadratrice, de construire un segment de longueur et de là, par diverses transformations géométriques élémentaires, de construire un carré de surface . Mais comme il est impossible de construire la quadratrice à la règle et au compas (courbe dite « transcendante »), cette solution ne peut être reçue comme « géométrique., .. »

Découvertes d'Archimède thumb|Quadrature du cercle à l'aide d'une spirale auxiliaire : soit O le centre de la spirale et A le point de cette courbe après une révolution complète. Soit B l'intersection de la tangente en ce point avec la perpendiculaire à OA. Archimède annonce que si le segment BO est égal au périmètre du cercle de rayon OA, la surface du cercle en rouge est égale à la surface du triangle en bleu.

Le traité d’Archimède intitulé De la mesure du cercle est parvenu complet jusqu'à nousCf. le tome 1 des Œuvres d'Archimède aux éd. des Belles Lettres, contenant les traités De la sphère et du cylindre. La mesure du cercle. Sur les conoïdes et les sphéroïdes ; éd. et tr. Charles Mugler. (Collection des Universités de France. Paris, 1970). xxx-488p. .. Archimède démontre dans ce traité les trois propriétés suivantes : la surface d'un cercle est égale à la surface du triangle rectangle dont les côtés de l'angle droit sont : l’un, le rayon du cercle ; l’autre, le périmètre. La surface du cercle est alors : rayon × périmètre / 2 ; la surface du cercle est avec le carré de son diamètre dans un rapport d'environ ; le rapport du périmètre au diamètre du cercle est compris entre 3 + et 3 + .

Le premier théorème résout la quadrature du cercle par la rectification du périmètre d'un cercle de rayon donné et la ramène finalement à la construction d'un segment de longueur . Archimède, avec le troisième théorème, fournit une valeur à la fois simple (22/7) et suffisamment précise (≈ 3,143) pour les applications courantes. Le deuxième théorème est un corollaire des deux autres ; quant au fait que la surface d'un cercle soit proportionnelle au carré de son diamètre, cela était déjà connu d’EuclideÉléments d'Euclide, livre XII, § 2. ; Archimède ne fait ici que préciser le coefficient de proportionnalité.

Pour démontrer ses trois énoncés, Archimède recourt à l'idée de son prédécesseur Bryson : cerner le cercle par des polygones inscrits et circonscrits en multipliant les points de contact. Partant d'un hexagone inscrit et du triangle (équilatéral) circonscrit, Archimède parvient par duplications successives du nombre de côtés à enserrer le cercle entre deux polygones de 96 côtés chacun. Un calcul remarquable des racines carrées qui interviennent dans les relations géométriques obtenues donne les trois rapports annoncésÀ défaut de l'édition du traité d'Archimède citée plus haut, on trouve un excellent résumé du traité d'Archimède dans ..

Dans un autre traité intitulé Des spiralesCf. M. Chasles, Aperçu Historique…, ; et ., Archimède décrit la construction de ce que nous appelons aujourd'hui une spirale d'Archimède, et qui comme la quadratrice d’Hippias est engendrée par la composition d'un mouvement rectiligne uniforme et d'un mouvement circulaire uniforme. Il montre que la construction d'une tangente à cette spirale permet de rectifier exactement le périmètre d'un cercle. Plusieurs commentateurs voient là une quadrature complète du cercle, mais Archimède ne la revendique pas lui-même comme telle : pas plus que la quadratrice, ni la spirale, ni sa tangente ne sont constructibles à la règle et au compasPappus, Coll. Math., livre IV, prop. 25. La quadratrice peut se construire à partir de la spirale d'Archimède. Cf. Michel Chasles, Aperçu historique…, chap. 1 («Première époque »), § 26, ..

Moyen Âge vignette|La quadrature proposée par Francon de Liège: diviser le cercle en 44 secteurs, puis les recoller pour recomposer un rectangle.

Le regain d'intérêt pour les mathématiques de l'Antiquité dans l'Europe chrétienne du s'accompagna de spéculations originales sur la quadrature du cercle, qui cependant ne firent guère avancer sa solution. On peut même s'étonner rétrospectivement de ce qu’au Moyen Âge, l'approximation d'Archimède pour le nombre , à savoir , ait pu être considérée comme exacte.

L'un des premiers auteurs de cette période à s'intéresser au problème de la quadrature du cercle fut Francon de Liège. Son traité De quadratura circuliConsultable sur Documenta Catholica Omnia : . parut vers 1050. Francon expose d'abord trois solutions qu'il considère comme fautives. Les deux premières donnent, pour le côté du carré cherché, la valeur , et pour sa diagonale du diamètre du cercle, ce qui correspond à des approximations médiocres pour (3 + et 3 + resp.). La troisième méthode présuppose la rectification du cercle.

La solution de Francon s'applique à un cercle de diamètre 14. Selon cet auteur, la surface est dans ce cas exactement de 7 ×  = 154. Si la méthode de Francon ne donne pas le moyen de calculer le côté du carré cherché (car la racine carrée de est irrationnelle), elle permet déjà de le construire. Pour cela, il divise le cercle en 44 secteurs égaux qui, recollés, forment un rectangle de 11 par 14 de côté. Cela dit, Francon n'explique pas comment il obtient le résultat-clef de son raisonnement, à savoir l'assimilation des secteurs de cercle à des triangles rectangles de côtés de longueur 1 et 7. Le fait qu'il échoue finalement à transformer son rectangle en un véritable carré n'est pas non plus très concluant. Visiblement, Francon n'était guère familier des méthodes des Anciens transmises jusqu'à son époque.