図Ａの△$\mathrm{ABC}$に正弦定理を使うと、
$\dfrac{\mathrm{A}\mathrm{B}}{\sin\angle \mathrm{A}\mathrm{C}\mathrm{B}}=2R$
より
$\dfrac{6}{\sin\angle \mathrm{A}\mathrm{C}\mathrm{B}}=2\cdot 5$
とかける。

これを計算して、
$\sin\angle \mathrm{ACB}=\dfrac{3}{5}$
である。

解答サ：０

図Ａでは 点$\mathrm{C}$を緑の弧上にとったけど、オレンジの弧上にあっても ここまでの計算は変わらない。

次は$\cos\angle\mathrm{ACB}$だ。

$\sin^{2}\angle\mathrm{ACB} + \cos^{2}\angle\mathrm{ACB} = 1$
は、サより
$\left(\dfrac{3}{5}\right)^{2}+\cos^{2}\angle \mathrm{ACB}=1$
と表せる。

これを解いて、

途中式

$\cos^{2}\angle \mathrm{ACB}=1-\left(\dfrac{3}{5}\right)^{2}$
$\phantom{ \cos^{2}\angle \mathrm{ACB} } =\dfrac{5^{2}-3^{2}}{5^{2}}$
$\phantom{ \cos^{2}\angle \mathrm{ACB} } =\dfrac{4^{2}}{5^{2}}$

$\cos\angle \mathrm{ACB}=\pm\dfrac{4}{5}$式Ａ
である。

今は$\angle \mathrm{ACB}$が鈍角のとき（点$\mathrm{C}$が図Ａのオレンジの弧上にあるとき）を問われているので、
$\cos\angle \mathrm{ACB} \lt 0$
だ。

よって、求める$\cos\angle \mathrm{ACB}$は、式Ａの２つの値のうち
$\cos\angle \mathrm{ACB}=-\dfrac{4}{5}$
である。

解答シ：７

次は、△$\mathrm{ABC}$の面積が最大であるときを考える。

図Ａより、このときの点$\mathrm{C}$は緑の弧上にあることは明らか。
なので、点$\mathrm{C}$が図Ａのオレンジの弧上にあるときは考えない。

△$\mathrm{ABC}$の底辺を$\mathrm{AB}$とする。
点$\mathrm{C}$の位置が変わると、△$\mathrm{ABC}$の
底辺は変わらない 高さは変わる ことになる。

なので、△$\mathrm{ABC}$の面積が最大になるのは、高さが最大のとき。
つまり、点$\mathrm{C}$と直線$\mathrm{AB}$の距離が最大のとき。

これは、図Ｂのように、点$\mathrm{C}$が
辺$\mathrm{AB}$と平行な直線が円$\mathrm{O}$と接するときの接点 であるときだ。
この、点$\mathrm{C}$を通る接線を$\ell$とする。

点$\mathrm{C}$から辺$\mathrm{AB}$に垂線を下ろし、その足を点$\mathrm{D}$とすると、
二本の赤い直線は平行なので、$\mathrm{CD}$⊥$\ell$ だから、$\mathrm{CD}$は接点を通り、接線と垂直な直線だ。

よって
$\mathrm{CD}$は円の中心$\mathrm{O}$を通る から、このときの図形は図Ｂのようになる。

図Ｂにおいて、$\mathrm{AO}=\mathrm{BO}=$円$\mathrm{O}$の半径なので
図中の青い三角形と黄色の三角形は合同 となり、
点$\mathrm{D}$は$\mathrm{AB}$の中点である △$\mathrm{ABC}$は$\mathrm{AC}=\mathrm{BC}$の二等辺三角形である ことが分かる。

ここまで分かったところで、問題を解こう。

まず問われているのは、$\tan\angle \mathrm{OAD}$（図Ｃの赤丸の角）だ。

図Ｃの青い三角形は直角三角形だから、
$\tan\angle \mathrm{OAD}=\dfrac{\mathrm{OD}}{\mathrm{A}\mathrm{D}}$式Ｂ
とかける。

青い三角形の辺は
$\mathrm{AD}=\dfrac{1}{2}\mathrm{AB}=3$ $\mathrm{AO}=$円$\mathrm{O}$の半径$=5$ なので、辺の比が$3:4:5$だから、
$\mathrm{OD}=4$
だ。

よって、式Ｂは
$\tan\angle \mathrm{OAD}=\dfrac{4}{3}$
と書きなおせる。

解答ス：４

ここで
$\mathrm{CD}=\mathrm{OC}+\mathrm{OD}$
だけど、$\mathrm{OC}$は円$\mathrm{O}$の半径なので
$\mathrm{CD}=5+4=9$
だ。
これが△$\mathrm{ABC}$の高さにあたる。

以上より、このときの△$\mathrm{ABC}$の面積は、
△$\mathrm{ABC}=\dfrac{1}{2}\cdot \mathrm{AB}\cdot \mathrm{CD}$
$\hspace{54px} =\dfrac{1}{2}\cdot 6\cdot 9$
$\hspace{54px} =27$
である。

解答セ：２, ソ：７

まず、△$\mathrm{PQR}$の面積から。

△$\mathrm{PQR}$は、図Ｄのような形だ。

この△$\mathrm{PQR}$に余弦定理を使うと、
$\mathrm{QR}^{2}=\mathrm{PQ}^{2}+\mathrm{PR}^{2}-2\cdot \mathrm{PQ}\cdot \mathrm{PR}\cos\angle \mathrm{QPR}$
より

途中式

$5^{2}=8^{2}+9^{2}-2\cdot 8\cdot 9\cos\angle \mathrm{QPR}$
とかける。
これを計算して、
$2\cdot 8\cdot 9\cos\angle \mathrm{QPR}=8^{2}+9^{2}-5^{2}$
$\cos\angle \mathrm{QPR}=\dfrac{8^{2}+(9+5)(9-5)}{2\cdot 8\cdot 9}$
$\phantom{ \cos\angle \mathrm{QPR} } =\dfrac{8^{2}+14\cdot 4}{2\cdot 8\cdot 9}$
$\phantom{ \cos\angle \mathrm{QPR} } =\dfrac{8+7}{2\cdot 9}$
$\phantom{ \cos\angle \mathrm{QPR} } =\dfrac{15}{2\cdot 9}$
より

$\cos\angle \mathrm{QPR} =\dfrac{5}{6}$
である。

解答タ：５, チ：６

このとき、
$\sin^{2}\angle \mathrm{QPR}+\left(\dfrac{5}{6}\right)^{2}=1$
だから

途中式

$\sin^{2}\angle \mathrm{QPR}=1-\left(\dfrac{5}{6}\right)^{2}$
$\phantom{ \sin^{2}\angle \mathrm{QPR} } =\dfrac{6^{2}-5^{2}}{6^{2}}$
$\phantom{ \sin^{2}\angle \mathrm{QPR} } =\dfrac{11}{6^{2}}$
なので

$\sin\angle \mathrm{QPR}=\dfrac{\sqrt{11}}{6}$
となる。

よって、△$\mathrm{PQR}$の面積は、
△$\mathrm{PQR}=\dfrac{1}{2}\mathrm{PQ}\cdot \mathrm{PR}\sin\angle \mathrm{QPR}$
より
△$\mathrm{PQR}=\dfrac{1}{2}\cdot 8\cdot 9\cdot\dfrac{\sqrt{11}}{6}$
と表せる。

これを計算して、
△$\mathrm{PQR}=6\sqrt{11}$
である。

解答ツ：６, テ:１, ト：１

別解

この問題では$\cos\angle \mathrm{QPR}$も問われているから上のように解いたけど、面積を求めるだけならヘロンの公式の方が早い。

△$\mathrm{PQR}$の各辺の和の$\dfrac{1}{2}$は
$\dfrac{8+5+9}{2}=11$
なので、ヘロンの公式より
△$\mathrm{PQR}=\sqrt{11(11-8)(11-5)(11-9)}$
とかける。

これを計算して、求める面積は
△$\mathrm{PQR}=\sqrt{11\cdot 3\cdot 6\cdot 2}$
$\hspace{54px} =\sqrt{11\cdot 6^{2}}$
$\hspace{54px} =6\sqrt{11}$
である。

解答ツ：６, テ:１, ト：１

ここから先は初めて見る感じの問題かも知れない。
けれど、焦らなくても大丈夫。
共通テストやセンター試験によくある、前の問題がヒントになっているパターンだ。
(1)の(ii)での作業を思い出して、同じことをしてみよう。

(1)(ii)の図Ｂと同様に考えよう。

三角錐$\mathrm{TPQR}$の底面を△$\mathrm{PQR}$とする。
点$\mathrm{T}$の位置が変わると、三角錐$\mathrm{TPQR}$の
底面積は変わらない 高さは変わる ことになる。

なので、三角錐$\mathrm{TPQR}$の体積が最大になるのは、高さが最大のとき。
つまり、点$\mathrm{T}$と平面$\alpha$の距離が最大のとき。

これは、図Ｅのように、点$\mathrm{T}$が
平面$\alpha$と平行な平面が球$\mathrm{S}$と接するときの接点 であるときだ。

この、点$\mathrm{T}$を通る平面を$\beta$とする。

点$\mathrm{T}$から平面$\alpha$に垂線を下ろし、その足を点$\mathrm{H}$とすると、
平面$\alpha$と平面$\beta$は平行なので、$\mathrm{TH}$⊥$\beta$ だから、$\mathrm{TH}$は接点を通り、接する面と垂直な直線だ。

よって、
$\mathrm{TH}$は球の中心$\mathrm{S}$を通る から、$\mathrm{PS}=\mathrm{QS}=\mathrm{RS}=$球$\mathrm{S}$の半径であり、
図中の青，黄，オレンジの３つの三角形は合同 である。

したがって、
$\mathrm{PH}=\mathrm{QH}=\mathrm{RH}$ だ。

解答ナ：６

このことから、
点$\mathrm{H}$は△$\mathrm{PQR}$の外心である ことが分かる。

次は、(1)(ii)と同様に、青い直角三角形を使って$\mathrm{HS}$を求める。
そのために、まず$\mathrm{PS}$と$\mathrm{PH}$を求めよう。

よって、三平方の定理より
$\mathrm{HS}^{2}=\mathrm{PS}^{2}-\mathrm{PH}^{2}$

途中式

$\phantom{ \mathrm{HS}^{2} } =5^{2}-\left(\dfrac{15}{\sqrt{11}}\right)^{2}$
$\phantom{ \mathrm{HS}^{2} } =5^{2}\left\{1^{2}-\left(\dfrac{3}{\sqrt{11}}\right)^{2}\right\}$
$\phantom{ \mathrm{HS}^{2} } =5^{2}\cdot\dfrac{11-9}{11}$
$\phantom{ \mathrm{HS}^{2} } =5^{2}\cdot\dfrac{2}{11}$

となるから、
$\mathrm{HS} =5\sqrt{\dfrac{2}{11}}$
である。

ここまでくると勝ったも同然。
あとは単なる計算だ。

$\mathrm{TH}=\mathrm{TS}+\mathrm{HS}$
だけど、$\mathrm{TS}$は球$\mathrm{S}$の半径なので
$\mathrm{TH} =5+5\sqrt{\dfrac{2}{11}}$
$\phantom{ \mathrm{TH} } =5\left(1+\sqrt{\dfrac{2}{11}}\right)$
である。
これが三角錐$\mathrm{TPQR}$の高さにあたる。

以上より、このときの三角錐$\mathrm{TPQR}$の体積は、
四角錐$\mathrm{TPQR}=\dfrac{1}{3}\cdot$△$\mathrm{PQR}\cdot \mathrm{TH}$

途中式

$\hspace{98px} =\dfrac{1}{3}\cdot 6\sqrt{11}\cdot 5\left(1+\sqrt{\dfrac{2}{11}}\right)$
$\hspace{98px} =10\sqrt{11}\left(1+\sqrt{\dfrac{2}{11}}\right)$

$\hspace{98px} =10\left(\sqrt{11}+\sqrt{2}\right)$
である。

解答ニ：１, ヌ：０, ネ：１, ノ：１, ハ：２