thumb|200px|right|Cuatro parejas de soluciones complementarias del problema de Apolonio. Las tres circunferencias dadas son las de color negro. thumb|200px|right|Animación donde se muestra la tangencia que se preserva en los círculos se contraiga o se expanda su radio en relación con cada una de las circunferencias.
En geometría plana euclidiana, el problema de Apolonio consiste en encontrar las circunferencias tangentes a tres circunferencias dadas. Apolonio de Perge (circa 262 a. C.-circa 190 a. C.) propuso y resolvió este problema en la obra Ἐπαφαί, (Epaphaí, Tangencias). Aunque esta obra se ha perdido, se conserva una referencia a ella en un manuscrito redactado en el por Papo de Alejandría. Las circunferencias dadas son de radio arbitrario, es decir, incluyen los casos extremos de radio nulo (un punto) y de radio infinito (una recta), lo que proporciona hasta diez tipos de problemas de Apolonio. Excluyendo a las familias de posiciones particulares que presentan infinitas soluciones, o ninguna, y a las familias de posiciones que, por simetría, tienen algunas soluciones equivalentes o prohibidas, la resolución general del problema resulta en ocho circunferencias que son tangentes a las tres circunferencias dadas.
En el , Adriaan van Roomen resolvió el problema utilizando la intersección de hipérbolas, pero esta solución no se basa únicamente en construcciones con regla y compás, por lo que puede considerarse menos elegante. François Viète encontró una solución aprovechando la simplificación de los puntos y rectas como casos extremos de circunferencias. El enfoque de Viète, que utiliza casos extremos sencillos para resolver otros más complicados, se considera una reconstrucción plausible del método de Apolonio. A su vez, Isaac Newton simplificó el método de van Roomen y mostró que el problema de Apolonio es equivalente a encontrar una posición conociendo las diferencias de distancias a tres puntos conocidos. Esta formulación tiene aplicaciones en la navegación y en sistemas de posicionamiento como el LORAN —LOng RAnge Navigation, navegación de largo alcance—, y, por otra parte, se han desarrollado generalizaciones del problema para otras superficies diferentes al plano, como puede ser la superficie esférica y otras superficies cuádricas.
Algunos matemáticos posteriores introdujeron métodos algebraicos, que transforman el problema geométrico en una ecuación algebraica. A estos métodos se les realizó una abstracción o simplificación, aprovechando las simetrías inherentes al problema de Apolonio: por ejemplo, las circunferencias resolutorias suelen encontrarse en parejas; en una de estas parejas, una circunferencia solución contiene las circunferencias dadas en su interior mientras que la otra no las contiene. Joseph Diaz Gergonne aprovechó esta simetría desarrollando un elegante método para encontrar las soluciones con regla y compás, mientras que otros matemáticos utilizaron transformaciones geométricas como la reflexión en una circunferencia —para que esta se utilice debe haber simetría del problema— para simplificar la disposición de las circunferencias dadas. Estos desarrollos ofrecen una representación geométrica a través de métodos algebraicos (utilizando la geometría de la esfera de Lie, introducida por el noruego Sophus Lie) y una clasificación de soluciones para las treinta y tres disposiciones esencialmente diferentes posibles en la posición inicial de las tres circunferencias.
El problema de Apolonio ha impulsado mucha investigación adicional. Se han estudiado generalizaciones en tres dimensiones —la construcción de una esfera tangente a cuatro esferas dadas— y en dimensiones superiores. La disposición de tres circunferencias tangentes entre ellas ha recibido una atención especial. René Descartes dio una fórmula que relaciona los radios de las circunferencias dadas y los de las circunferencias resolutorias, que se conoce actualmente como teorema de Descartes. En este caso, la resolución iterativa del problema de Apolonio lleva a la formación de uno de los primeros fractales descubiertos y dibujados, el tamiz de Apolonio, importante en teoría de números, concretamente en los círculos de Ford y en el método del círculo de Hardy-Littlewood.
Su aplicación principal es determinar una posición a partir de las diferencias entre las distancias de, al menos, tres puntos conocidos mediante la trilateración hiperbólica, utilizada en navegación y en los sistemas globales de navegación por satélite como el GPS. Otras aplicaciones incluyen los códigos de corrección de errores utilizados en los discos DVD, así como desarrollos en farmacología.
Enunciado del problema El enunciado original del problema de Apolonio pide la construcción de una o más circunferencias que sean tangentes a tres objetos dados. Los objetos pueden ser rectas, puntos o circunferencias de cualquier tamaño. Estos objetos pueden ser colocados en cualquier disposición y se pueden cortar unos a otros; sin embargo, se suelen tomar diferentes, es decir, que no coincidan. Las soluciones del problema a veces se llaman «circunferencias de Apolonio», aunque este término también se usa para otros tipos de circunferencias asociadas con Apolonio. thumb|right|200px|Una solución (en púrpura) del problema de Apolonio. Las circunferencias dadas se muestran en negro. El enunciado hace uso de la propiedad de tangencia; esta se define a continuación. Por hipótesis, se asume que un punto, recta o circunferencia es tangente a sí mismo, por lo que si una circunferencia dada ya es tangente a los otros dos objetos, se cuenta como solución del problema de Apolonio. Se dice que dos objetos geométricos diferentes intersecan si tienen un punto en común. Por definición, un punto es tangente a una circunferencia o una recta si la interseca, es decir, si se sitúa sobre la misma, así, dos puntos diferentes no pueden ser tangentes. Si el ángulo entre rectas o circunferencias en el punto de intersección es cero, se dice que son tangentes, el punto de intersección se llama punto de tangencia (la palabra «tangente» deriva del participio de presente latino tangens, que significa «tocante»). En la práctica, dos circunferencias distintas son tangentes si se intersecan en un solo punto, si se intersecan en dos puntos o no se intersecan, entonces no son tangentes. Esto mismo es válido para una recta y una circunferencia. Dos rectas diferentes no pueden ser tangentes en el plano, aunque en geometría inversiva dos rectas paralelas se pueden considerar tangentes en un punto en el infinito.
La circunferencia solución debe ser interna o externamente tangente a cada una de las circunferencias dadas. Una tangencia externa es aquella en la que las dos circunferencias se curvan hacia sentidos opuestos en el punto de intersección, se sitúan en los lados opuestos de la recta tangente en ese punto, y se excluyen mutuamente. La distancia entre sus centros es igual a la suma de los radios. Por el contrario, una tangencia interna es aquella en la que las dos circunferencias se curvan hacia el mismo sentido en el punto de intersección correspondiente; las dos circunferencias se sitúan en el mismo lado de la recta tangente, y una de las dos incluye la otra. En este caso, la distancia entre sus centros es igual a la diferencia de los radios. En la ilustración a la derecha, la circunferencia solución (en color púrpura) es tangente internamente a la circunferencia negra dada de tamaño medio situada a la derecha, mientras que es tangente externamente a las circunferencias dadas más pequeña y más grande situadas a la izquierda.
Alternativamente, el problema de Apolonio también se puede formular como el problema de encontrar uno o más puntos tales que las diferencias de sus distancias a tres puntos dados sean iguales a tres valores conocidos. Para ver la equivalencia con el enunciado anterior, sea considerada una circunferencia solución de radio rs y tres circunferencias dadas de radios r1, r2, r3. Si la circunferencia solución es tangente externamente a las tres circunferencias dadas, entonces las distancias entre el centro de la circunferencia solución y los centros de las circunferencias dadas son: , y , respectivamente. Por tanto, las diferencias entre estas distancias son constantes, es decir, ; dependen sólo de los radios conocidos de las circunferencias dadas y no del radio rs de la circunferencia solución, que se anula. Este segundo planteamiento del problema de Apolonio se puede generalizar a las circunferencias solución tangentes internamente (para las que la distancia centro-centro es igual a la diferencia de los radios) cambiando las correspondientes diferencias de distancias por sumas de distancias, de modo que el radio de la circunferencia solución rs se vuelve a anular. La reformulación en términos distancias centro-centro es útil en las resoluciones de Adriaan van Roomen e Isaac Newton que se muestran más abajo, y también en el posicionamiento hiperbólico o trilateración, que consiste en localizar una posición a partir de las diferencias entre las distancias a tres puntos conocidos. Por ejemplo, los sistemas de navegación como el LORAN identifican la posición de un receptor a partir de las diferencias en el tiempo de llegada de las señales emitidas desde tres posiciones fijas, que corresponden a las diferencias en las distancias a los transmisores.
Historia thumb|left|180px|Portada de Mathematicae Collectiones de Papo de Alejandría, donde recopiló la información sobre los métodos utilizados por Apolonio para resolver el problema. Los conocimientos sobre este enigma geométrico han sido posibles gracias a la obra de este escritor. Se ha desarrollado un rico repertorio de métodos geométricos y algebraicos para resolver el problema de Apolonio. El enfoque original de Apolonio de Perge se ha perdido, pero François Viète y otros lo reconstruyeron basándose en las pistas de la descripción de Papo de Alejandría. Sin embargo, este último no fue el único que pudo recopilar información sobre esta temática, pues también hubo científicos árabes que hicieron grandes reconstrucciones en torno a la obra de Apolonio. El primer nuevo método de resolución se publicó en 1596, por obra de Adriaan van Roomen, que identificó los centros de las circunferencias solución como puntos de intersección de dos hipérbolas. En 1687 Isaac Newton mejoró el método de Van Roomen en su Principia, y también John Casey en 1881.
A pesar del éxito en la resolución del problema de Apolonio, el método de van Roomen tiene una desventaja. Una propiedad muy apreciada en la geometría euclidiana clásica es la posibilidad de resolver problemas utilizando solo construcciones con regla y compás. Muchas construcciones, como dividir un ángulo en tres partes iguales, son imposibles utilizando solo estas herramientas. Sin embargo, muchos de estos problemas «imposibles» se pueden resolver utilizando la intersección de curvas como las hipérbolas, las elipses y las parábolas (secciones cónicas). Por ejemplo, la duplicación del cubo (el problema que plantea la construcción de un cubo con el doble de volumen de un cubo dado) no se puede resolver utilizando solo regla y compás, pero Menecmo mostró que el problema puede resolverse utilizando la intersección de dos parábolas. Por tanto, la resolución de van Roomen —que utiliza la intersección de dos hipérbolas— no determina si el problema satisface la propiedad de poder ser resuelto mediante construcciones con regla y compás. thumb|175px|right|François Viète, destacado matemático francés que trabajó exhaustivamente en el problema de Apolonio, desarrolló un método que precisa únicamente el uso de construcciones con regla y compás.