miniatura|Una solució (en rosa) del problema d'Apol·loni. Les circumferències donades es mostren en negre. miniatura|Quatre parelles de solucions complementàries del problema d'Apol·loni; les circumferències donades són les negres. En geometria plana euclidiana, el problema d'Apol·loni consisteix a construir circumferències que siguin tangents a tres circumferències donades. Apol·loni de Perge (ca. 262 190 BC) proposà i resolgué aquest problema famós a l'obra (, "Tangències"); l'obra s'ha perdut, però s'ha conservat una referència dels resultats feta el segle IV per Papos d'Alexandria. Excloent les famílies de posicions particulars que tenen infinites solucions, les que no en tenen cap, i les famílies de posicions que, per simetria, tenen algunes solucions equivalents o impossibles, la resolució general del problema proveeix vuit circumferències diferents que són tangents a les circumferències donades. Hi ha dues solucions per cada manera de separar les circumferències donades en dos subconjunts, que fan un total de vuit solucions (hi ha quatre maneres de separar un conjunt de tres elements en dos subconjunts).
Al , Adriaan van Roomen resolgué el problema utilitzant hipèrboles secants, però aquesta solució no es basa únicament en construccions amb regle i compàs. François Viète trobà una solució aprofitant la simplificació dels casos extrems: qualsevol de les tres circumferències donades es pot reduir fins a tenir un radi nul (un punt) o ampliar fins que tingui un radi infinit (una recta). L'enfocament de Viète, que utilitza casos extrems senzills per resoldre'n d'altres més complicats, es considera una reconstrucció plausible del mètode d'Apol·loni. El mètode de van Roomen fou simplificat per Isaac Newton, que mostrà que el problema d'Apol·loni és equivalent a trobar una posició coneixent les diferències de distàncies a tres punts coneguts. Això té aplicacions en navegació i en sistemes de posicionament com el LORAN.
Matemàtics posteriors introduïren mètodes algebraics, que transformen el problema geomètric en una equació algebraica. Aquests mètodes es van simplificar aprofitant les simetries inherents al problema d'Apol·loni: per exemple, les circumferències resolutòries solen trobar-se en parelles, amb una que conté les circumferències donades que l'altra no conté. Joseph Diez Gergonne aprofità aquesta simetria per trobar un elegant mètode per trobar les solucions amb regle i compàs, mentre que altres matemàtics utilitzaren transformacions geomètriques com la reflexió en una circumferència per simplificar la disposició de les circumferències donades. Aquests desenvolupaments ofereixen una representació geomètrica a través de mètodes algebraics (utilitzant la geometria de l'esfera de Lie) i una classificació de solucions per les 33 disposicions essencialment diferents possibles en la posició inicial de les tres circumferències.
El problema d'Apol·loni ha impulsat molta recerca addicional. S'han estudiat generalitzacions en tres dimensions —la construcció d'una esfera tangent a quatre esferes donades— i en dimensions superiors. La disposició de tres circumferències tangents entre elles ha rebut una atenció especial. René Descartes donà una fórmula que relaciona els radis de les circumferències donades i els de les circumferències resolutòries, que es coneix actualment com a teorema de Descartes. En aquest cas, la resolució iterant del problema d'Apol·loni duu a la formació d'un dels primers fractals descoberts i dibuixats. Aquest fractal té importància en teoria de nombres, concretament en les circumferències de Ford i en el mètode del cercle de Hardy-Littlewood.
Enunciat del problema L'enunciat general del problema d'Apol·loni demana la construcció d'una o més circumferències que siguin tangents a tres objectes donats en el pla. Els objectes poden ser una recta, un punt o una circumferència de qualsevol mida. Aquests objectes poden ser col·locats en qualsevol disposició i es poden tallar els uns als altres; tot i així, se solen prendre diferents, és a dir, que no coincideixin. Les solucions del problema d'Apol·loni de vegades s'anomenen Circumferències d'Apol·loni, tot i que aquest terme també s'usa per altres tipus de circumferències associades amb Apol·loni.
La propietat de tangència es defineix a continuació. En primer lloc, s'assumeix que un punt, recta o circumferència és tangent a si mateix; per tant, si una circumferència donada ja és tangent als altres dos objectes, es compta com a solució del problema d'Apol·loni. Es diu que dos objectes geomètrics diferents s'intersequen si tenen un punt en comú. Per definició, un punt és tangent a una circumferència o una recta si la interseca, és a dir, si se situa sobre aquesta; així, dos punts diferents no poden ser tangents. Si l'angle entre rectes o circumferències al punt d'intersecció és zero, es diu que són tangents; el punt d'intersecció s'anomena punt de tangència. (La paraula "tangent" deriva del participi de present llatí tangens, que significa "tocant".) A la pràctica, dues circumferències diferents són tangents si s'intersequen en només un punt; si s'intersequen en dos punts o no s'intersequen, llavors no són tangents. Això mateix és vàlid per una recta i una circumferència. Dues rectes diferents no poden ser tangents al pla, encara que dues rectes paral·leles es poden considerar tangents en un punt a l'infinit en geometria inversiva (vegeu més avall).
La circumferència resolutòria pot ser tangent internament o externa a cada una de les circumferències donades. Una tangència externa és aquella en la qual les dues circumferències es corben cap a sentits oposats en el punt d'intersecció; se situen en els costats oposats de la recta tangent en aquest punt, i cap de les dues inclou l'altra. La distància entre els seus centres és igual a la suma dels radis. Per contra, una tangència interna és aquella en la qual les dues circumferències es corben cap al mateix sentit en el punt d'intersecció corresponent; les dues circumferències se situen al mateix costat de la recta tangent, i una de les dues inclou l'altra. En aquest cas, la distància entre els seus centres és igual a la diferència dels radis. Com a exemple, a la primera imatge, la circumferència rosa resolutòria és tangent internament a la circumferència negra donada de mida mitjana situada a la dreta, mentre que és tangent externament a les circumferències donades més petita i més gran situades a l'esquerra.
El problema d'Apol·loni també es pot formular com el problema de trobar un o més punts tals que les diferències de les seves distàncies a tres punts donats siguin iguals a tres valors coneguts. Sigui considerada una circumferència resolutòria de radi rs i tres circumferències donades de radis r1, r₂ i r₃. Si la circumferència resolutòria és tangent externament a les tres circumferències donades, llavors les distàncies entre el centre de la circumferència resolutòria i els centres de les circumferències donades són: , i , respectivament. Per tant, les diferències entre aquestes distàncies són constants, és a dir, ; tan sols depenen dels radis coneguts de les circumferències donades i no del radi rs de la circumferència resolutòria, que s'anul·la. Aquest segon plantejament del problema d'Apol·loni es pot generalitzar a les circumferències resolutòries tangents internament (per les quals la distància centre-centre és igual a la diferència dels radis) canviant les corresponents diferències de distàncies per sumes de distàncies, de manera que el radi de la circumferència resolutòria rs es torna a anul·lar. La reformulació en termes de distàncies centre-centre és útil en la resolució que es mostra més avall d'Adriaan van Roomen i Isaac Newton, i també en el posicionament hiperbòlic o trilateració, que consisteix a localitzar una posició a partir de les diferències entre les distàncies a tres punts coneguts. Per exemple, els sistemes de navegació com el LORAN identifiquen la posició d'un receptor a partir de les diferències en el temps d'arribada dels senyals des de tres posicions fixes, que corresponen a les diferències en les distàncies als transmissors.
Història S'ha desenvolupat un ric repertori de mètodes geomètrics i algebraics per resoldre el problema plantejat. L'enfocament original d'Apol·loni de Perge s'ha perdut, però François Viète i d'altres n'han fet reconstruccions, basades en les pistes de la descripció de Papos d'Alexandria. El primer nou mètode de resolució va ser publicat el 1596 per Adriaan van Roomen, que va identificar els centres de les circumferències resolutòries com a punts d'intersecció de dues hipèrboles. El mètode de Van Roomen va ser millorat el 1687 per Isaac Newton a l'obra Principia, i per John Casey el 1881.
Tot i l'èxit en la resolució del problema d'Apol·loni, el mètode de van Roomen té un desavantatge. Una propietat molt apreciada en la geometria euclidiana clàssica és la possibilitat de resoldre problemes utilitzant tan sols construccions amb regle i compàs. Moltes construccions són impossibles utilitzant només aquestes eines, com ara dividir un angle en tres parts iguals. Tot i així, molts d'aquests problemes "impossibles" es poden resoldre utilitzant la intersecció de corbes com les hipèrboles, les el·lipses i les paràboles (seccions còniques). Per exemple, la duplicació del cub (el problema que tracta de construir un cub amb el doble de volum d'un cub donat) no es pot resoldre utilitzant només regle i compàs, però Menaechmus mostrà que el problema pot resoldre's utilitzant la intersecció de dues paràboles. Per tant, la resolució de van Roomen —que utilitza la intersecció de dues hipèrboles— no determina si el problema satisfà la propietat de poder ser resolt mitjançant construccions amb regle i compàs.
François Viète, que va ser precisament el primer a convèncer el seu amic Van Roomen a treballar en el problema d'Apol·loni, desenvolupà un mètode que precisa solament l'ús de construccions amb regle i compàs. Abans del mètode de resolució de Viète, Regiomontanus dubtava de la possibilitat de resolució del problema d'Apol·loni amb regle i compàs. Viète resolgué en primer lloc alguns casos especials senzills del problema d'Apol·loni, com trobar una circumferència que passi per tres punts donats, que només té una solució si els punts són diferents; llavors construí solucions per casos especials més complicats, en alguns d'aquests casos mitjançant la reducció o l'ampliació de les circumferències donades. Segons la referència del segle IV de Papos d'Alexandria, el llibre propi d'Apol·loni sobre aquest problema —titulat (, "Tangències"; Llatí: De tactionibus, De contactibus)— seguia una aproximació progressiva similar. Per tant, la resolució de Viète es considera una reconstrucció plausible de la resolució d'Apol·loni, encara que també s'han publicat independentment altres reconstruccions fetes per tres autors més.Simson, R (1734) Mathematical Collection, volum VII, pàg. 117.
Durant el es desenvoluparen moltes altres resolucions geomètriques del problema d'Apol·loni. Les més notables són les de Jean Victor Poncelet (1811) i Joseph Diez Gergonne (1814). Mentre que la resolució de Poncelet es basa en centres homotètics de circumferències i en el teorema de la potència d'un punt, el mètode de Gergonne aprofita la relació de conjugació entre rectes i els seus pols en una circumferència. Els mètodes que utilitzen la inversió de la circumferència foren desenvolupats per primera vegada el 1879 per Julius Petersen; n'és un exemple el mètode de solució anular de HSM Coxeter. Una altra aproximació utilitza la geometria de l'esfera de Lie, que fou desenvolupada per Sophus Lie.