解答例 　

$AP : BP = \mu : 1$ ($\mu > 1$) とする。 $AP = \mu BP$。

これを二乗して、 $AP^2 = \mu^2 BP^2$。

これを、 $\vec{AP}^2 = \mu^2 \vec{BP}^2$ と見ると、

$$(\vec{OP} - \vec{OA})^2 = \mu^2 (\vec{OP} - \vec{OB})^2$$

すると、

$$(\vec{OP} - \frac{\vec{OA} + \mu \vec{OB}}{\mu + 1})(\vec{OP} - \frac{-\vec{OA} + \mu \vec{OB}}{\mu - 1}) = 0$$

ここに出て来た、二つのベクトルを、 $$\vec{OC} = \frac{\vec{OA} + \mu \vec{OB}}{\mu + 1}$$ $$\vec{OD} = \frac{-\vec{OA} + \mu \vec{OB}}{\mu - 1}$$

とすれば、どちらも点 $P$ の位置によらない定ベクトルであることが分かる。

そして、 $$\vec{CP} \cdot \vec{DP} = 0$$ であるから、

図中の線分 $CP$と線分 $DP$は直交。

つまり、点$P$は2点 $C$ と $D$ を両端とするアポロニウスの円の周上にあることがわかる(図の赤い円)。

さて、

$$\vec{OC} = \vec{OA} + \frac{\mu}{\mu + 1} \vec{AB}$$ $$\vec{OD} = \vec{OA} + \frac{\mu}{\mu - 1} \vec{AB}$$

であるから、点 $O$ をこの円の中心におくと、半径 $k$ は、 $$k = \frac{\mu}{\mu^2 - 1} \times AB$$

また、 $$OA = \frac{\mu^2}{\mu^2 - 1} \times AB$$ $$OB = \frac{1}{\mu^2 - 1} \times AB$$

$$OA \times OB = ( \frac{\mu^2}{\mu^2 - 1}\times AB ) \times ( \frac{1}{\mu^2 - 1} \times AB ) = k^2$$ つまり、もともとの2点 $A$ と $B$ はアポロニウスの円による反転で結びつけられる。