図Ａで、
$$ \begin{align} \overrightarrow{\mathrm{QX}}&=\overrightarrow{\mathrm{OX}}-\overrightarrow{\mathrm{OQ}}\\ &=a\vec{p}-\vec{q} \end{align} $$ である。

解答ア：ａ

$\mathrm{QX} \perp \mathrm{OP}$より
$\overrightarrow{\mathrm{QX}}\cdot\overrightarrow{\mathrm{OP}}=0$
なので、
$(a\vec{p}-\vec{q})\cdot\vec{p}=0$
$a\left|\vec{p}\right|^{2}-\vec{p}\cdot\vec{q}=0$
とかける。

問題文より$\left|\vec{p}\right|=4$，$\vec{p}\cdot\vec{q}=12$なので、上の式は
$4^{2}a-12=0$
$a=\dfrac{3}{4}$
となる。

解答イ：３, ウ：４

よって、
$\overrightarrow{\mathrm{OX}}=\dfrac{3}{4}\vec{p}$
だから、
$$ \begin{align} \overrightarrow{\mathrm{RX}}\cdot\overrightarrow{\mathrm{OP}}&=(\overrightarrow{\mathrm{OX}}-\overrightarrow{\mathrm{OR}})\cdot\overrightarrow{\mathrm{OP}}\\ &=\left(\dfrac{3}{4}\vec{p}-\vec{r}\right)\cdot\vec{p}\\ &=\dfrac{3}{4}\left|\vec{p}\right|^{2}-\vec{r}\cdot\vec{p} \end{align} $$ ここで、$\left|\vec{p}\right|=4$，$\vec{r}\cdot\vec{p}=12$なので、
$\overrightarrow{\mathrm{RX}}\cdot\overrightarrow{\mathrm{OP}}=\dfrac{3}{4}\cdot 4^{2}-12=0$
である。

解答エ：０

同様に、$\overrightarrow{\mathrm{OY}}=b\vec{q}$とすると、
$$ \begin{align} \overrightarrow{\mathrm{PY}}&=\overrightarrow{\mathrm{OY}}-\overrightarrow{\mathrm{OP}}\\ &=b\vec{q}-\vec{p} \end{align} $$ とかける。

$\mathrm{PY} \perp \mathrm{OQ}$より $\overrightarrow{\mathrm{PY}}\cdot\overrightarrow{\mathrm{OQ}}=0$ なので、
$(b\vec{q}-\vec{p})\cdot\vec{q}=0$
$b\left|\vec{q}\right|^{2}-\vec{p}\cdot\vec{q}=0$
とかける。

$\left|\vec{q}\right|=3\sqrt{2}$，$\vec{p}\cdot\vec{q}=12$なので、上の式は
$(3\sqrt{2})^{2}b-12=0$
$b=\dfrac{2}{3}$
となるから、
$\overrightarrow{\mathrm{OY}}=\dfrac{2}{3}\vec{q}$
である。

解答オ：２, カ：３

よって、
$$ \begin{align} \overrightarrow{\mathrm{RY}}\cdot\overrightarrow{\mathrm{OQ}}&=(\overrightarrow{\mathrm{OY}}-\overrightarrow{\mathrm{OR}})\cdot\overrightarrow{\mathrm{OQ}}\\ &=\left(\dfrac{2}{3}\vec{q}-\vec{r}\right)\cdot\vec{q}\\ &=\dfrac{2}{3}\left|\vec{q}\right|^{2}-\vec{q}\cdot\vec{r} \end{align} $$ ここで、$\left|\vec{q}\right|=3\sqrt{2}$，$\vec{q}\cdot\vec{r}=12$なので、
$\overrightarrow{\mathrm{RY}}\cdot\overrightarrow{\mathrm{OQ}}=\dfrac{2}{3}(3\sqrt{2})^{2}-12=0$
である。

解答キ：０

さて、次は見慣れた交点へのベクトルの問題だ。
図Ｂのように
$\mathrm{QH}:\mathrm{XH}=1-u:u$ $\mathrm{PH}:\mathrm{YH}=v:1-v$ とすると、
$$ \begin{align} \overrightarrow{\mathrm{OH}}&=(1-u)\overrightarrow{\mathrm{OX}}+u\overrightarrow{\mathrm{OQ}}\\ &=\dfrac{3}{4}(1-u)\vec{p}+u\vec{q} \end{align} $$ $$ \begin{align} \overrightarrow{\mathrm{OH}}&=(1-v)\overrightarrow{\mathrm{OP}}+v\overrightarrow{\mathrm{OY}}\\ &=(1-v)\vec{p}+\dfrac{2}{3}v\vec{q} \class{tex_formula}{式Ａ} \end{align} $$ なので、連立方程式
$\left\{\begin{array}{l} \dfrac{3}{4}(1-u)=1-v\\ u=\dfrac{2}{3}v \end{array}\right.$
ができる。これを解く。

下の式を上の式に代入して、
$\dfrac{3}{4}\left(1-\dfrac{2}{3}v\right)=1-v$
両辺を$4$倍して、
$3\left(1-\dfrac{2}{3}v\right)=4(1-v)$
$3-2v=4-4v$
$v=\dfrac{1}{2}$

これを式Ａに代入して、
$$ \begin{align} \overrightarrow{\mathrm{OH}}&=\left(1-\dfrac{1}{2}\right)\vec{p}+\dfrac{2}{3}\cdot\dfrac{1}{2}\vec{q}\\ &=\dfrac{1}{2}\vec{p}+\dfrac{1}{3}\vec{q} \class{tex_formula}{式Ｂ} \end{align} $$ となる。

解答ク：１, ケ：２, コ：１, サ：３

緑のルート

まず、緑のルートから。
$\overrightarrow{\mathrm{OK}}=\overrightarrow{\mathrm{OH}}+\overrightarrow{\mathrm{HK}}$
だけど、$\overrightarrow{\mathrm{HK}}=t\overrightarrow{\mathrm{HR}}$とおくので、
$\overrightarrow{\mathrm{OK}}=\overrightarrow{\mathrm{OH}}+t\overrightarrow{\mathrm{HR}}$式Ｃ
とかける。
ここで、$\overrightarrow{\mathrm{HR}}=\overrightarrow{\mathrm{OR}}-\overrightarrow{\mathrm{OH}}$なので、式Ｃは
$$ \begin{align} \overrightarrow{\mathrm{OK}}&=\overrightarrow{\mathrm{OH}}+t(\overrightarrow{\mathrm{OR}}-\overrightarrow{\mathrm{OH}})\\ &=(1-t)\overrightarrow{\mathrm{OH}}+t\overrightarrow{\mathrm{OR}} \end{align} $$ となる。

アドバイス

結局、
$\mathrm{HK}:\mathrm{RK}=t:1-t$
とおいたのと同じ式になるけど、問題文の流れに乗ると上のような考えになる。

これに式Ｂと$\overrightarrow{\mathrm{OR}}=\vec{r}$を代入して、
$\overrightarrow{\mathrm{OK}}=(1-t)\left(\dfrac{1}{2}\vec{p}+\dfrac{1}{3}\vec{q}\right)+t\vec{r}$
である。

解答シ：１

この式は、もうちょっと計算して
$\overrightarrow{\mathrm{OK}}=\dfrac{1-t}{2}\vec{p}+\dfrac{1-t}{3}\vec{q}+t\vec{r}$式Ｄ
としておこう。

緑のルート$=$青いルート

式Ｄ$=$式Ｆより、
$\left\{\begin{array}{l} \dfrac{1-t}{2}=1-k-l\\ \dfrac{1-t}{3}=l\\ t=ks \end{array}\right.$
となる。
この連立方程式からスセの式を作るのだけど、スセの式には$s$，$t$があって$k$，$l$がない。
なので、$k$と$l$を消去する方針で。

真ん中の式を上の式に代入して、
$\dfrac{1-t}{2}=1-k-\dfrac{1-t}{3}$
$k=1-\dfrac{1-t}{3}-\dfrac{1-t}{2}$

途中式

$$ \begin{align} \phantom{k}&=\dfrac{6-2(1-t)-3(1-t)}{6}\\ &=\dfrac{6-5(1-t)}{6} \end{align} $$

$\phantom{k}=\dfrac{1+5t}{6}$
これを下の式に代入して、
$t=\dfrac{1+5t}{6}s$
$6t=s+5st$
$(6-5s)t=s$
$t=\dfrac{s}{6-5s}$式Ｇ
である。

解答ス：６, セ：５

$\mathrm{PZ}$と$\mathrm{OR}$が垂直ならば、
$\overrightarrow{\mathrm{PZ}}\cdot\overrightarrow{\mathrm{OR}}=0$
なので、
$(\overrightarrow{\mathrm{OZ}}-\overrightarrow{\mathrm{OP}})\cdot\overrightarrow{\mathrm{OR}}=0$
$(s\vec{r}-\vec{p})\cdot\vec{r}=0$
$s\left|\vec{r}\right|^{2}-\vec{p}\cdot\vec{r}=0$
となる。
$\left|\vec{r}\right|=2\sqrt{7}$，$\vec{p}\cdot\vec{r}=12$なので、上の式は
$s(2\sqrt{7})^{2}-12=0$
$$ \begin{align} s&=\dfrac{12}{(2\sqrt{7})^{2}}\\ &=\dfrac{3}{7} \end{align} $$ となる。

解答ソ：３, タ：７

これを式Ｇに代入して、
$t=\dfrac{\cfrac{3}{7}}{6-5\cdot\cfrac{3}{7}}$
分母分子を$7$倍して、
$t=\dfrac{3}{7\cdot 6-5\cdot 3}$
分母分子を$3$で割って、
$$ \begin{align} t&=\dfrac{1}{7\cdot 2-5}\\ &=\dfrac{1}{9} \end{align} $$ である。

解答チ：１, ツ：９