まず、$\vec{p}$，$\vec{q}$の大きさから。

$$ \begin{align} |\vec{p}|&=\sqrt{2^{2}+(-1)^{2}+(-1)^{2}}\\ &=\sqrt{6} \end{align} $$

$$ \begin{align} |\vec{q}|&=\sqrt{0^{2}+1^{2}+(-1)^{2}}\\ &=\sqrt{2} \end{align} $$

である。

解答ア：６, イ：２

次は２つのベクトルのなす角なので、内積から考えよう。
それぞれのベクトルの成分から、
$$ \begin{align} \vec{p}\cdot\vec{q}&=2\cdot 0+(-1)\cdot 1+(-1)(-1)\\ &=0 \end{align} $$ より、内積が$0$なので、なす角は
$90^{\circ}$
である。

解答ウ：９, エ：０

$\vec{n}=(1,y,z)$
とおくと、

$\vec{n} \perp \vec{p}$なので、
$\vec{n}\cdot\vec{p}=1\cdot 2+y\cdot(-1)+z\cdot(-1)=0$
だから、
$y+z=2$式Ａ

$\vec{n} \perp \vec{q}$なので、
$\vec{n}\cdot\vec{q}=1\cdot 0+y\cdot 1+z\cdot(-1)=0$
だから、
$y-z=0$
$y=z$式Ｂ

である。

式Ａと式Ｂを連立方程式として解く。

式Ｂを式Ａに代入して、
$y+y=2$
$y=1$
これを式Ｂに代入して、
$z=1$
となるので、
$\vec{n}=(1,1,1)$
となる。

解答オ：１, カ：１

ここで、$\vec{n}$の意味を考えておこう。
平面に垂直なベクトルについて復習すると、

復習

平面$\alpha$上に、$\vec{0}$でも平行でもない２つのベクトル$\vec{a}$，$\vec{b}$があるとき、
$\vec{c} \perp \vec{a}$，$\vec{c} \perp \vec{b}$ $\Leftrightarrow$ $\vec{c}$が平面$\alpha$と垂直
である。
詳しくはこのページ参照。

だった。

復習より、$\vec{n}$は平面$\alpha$と垂直である。

また、点$\mathrm{A}$の座標と$\vec{n}$の成分より、

である。

別解

$\vec{n}\cdot\vec{n}$は、
$$ \begin{align} \vec{n}\cdot\vec{n}&=|\vec{n}|^{2}\\ &=\sqrt{1^{2}+1^{2}+1^{2}}^{2}\\ &=3 \end{align} $$ としても求められる。

解答 ク：３

$\overrightarrow{\mathrm{OA}}=r\vec{n}+s\vec{p}+t\vec{q}$
とおいたので、
$$ \begin{align} \overrightarrow{\mathrm{OA}}\cdot\vec{n}&=\left(r\vec{n}+s\vec{p}+t\vec{q}\right)\cdot\vec{n}\\ &=r\vec{n}\cdot\vec{n}+s\vec{p}\cdot\vec{n}+t\vec{q}\cdot\vec{n}\TF{式Ｃ} \end{align} $$ とかける。

ここで、
$\left\{\begin{array}{l} \FB{キ}\text{より} \overrightarrow{\mathrm{OA}}\cdot\vec{n}=6\\ \FB{ク}\text{より} \vec{n}\cdot\vec{n}=3\\ \vec{n} \perp \vec{p} \text{より} \vec{n}\cdot\vec{p}=0\\ \vec{n} \perp \vec{q} \text{より} \vec{n}\cdot\vec{q}=0 \end{array}\right.$

なので、式Ｃは
$r\cdot 3+s\cdot 0+t\cdot 0=6$
$3r=6$
$r=2$
となる。

解答ケ：２

同じ作業を$\overrightarrow{\mathrm{OA}}\cdot\vec{p}$と$\overrightarrow{\mathrm{OA}}\cdot\vec{q}$でも行う。

$$ \begin{align} \overrightarrow{\mathrm{OA}}\cdot\vec{p}&=\left(r\vec{n}+s\vec{p}+t\vec{q}\right)\cdot\vec{p}\\ &=r\vec{n}\cdot\vec{p}+s\vec{p}\cdot\vec{p}+t\vec{q}\cdot\vec{p}\\ &=r\vec{n}\cdot\vec{p}+s\left|\vec{p}\right|^{2}+t\vec{q}\cdot\vec{p}\TF{式Ｄ} \end{align} $$

ここで、
$\left\{\begin{array}{l} \begin{aligned} \overrightarrow{\mathrm{OA}}\cdot\vec{p}&=6\cdot 2+(-1)(-1)+1\cdot(-1)\\ &=12 \end{aligned}\\ \FB{ア}\text{より} \left|\vec{p}\right|=\sqrt{6}\\ \vec{n} \perp \vec{p} \text{より} \vec{n}\cdot\vec{p}=0\\ \vec{p} \perp \vec{q} \text{より} \vec{p}\cdot\vec{q}=0 \end{array}\right.$

なので、式Ｄは
$r\cdot 0+s\cdot\sqrt{6}^{2}+t\cdot 0=12$
$6s=12$
$s=2$
となる。

解答コ：２

$$ \begin{align} \overrightarrow{\mathrm{OA}}\cdot\vec{q}&=\left(r\vec{n}+s\vec{p}+t\vec{q}\right)\cdot\vec{q}\\ &=r\vec{n}\cdot\vec{q}+s\vec{p}\cdot\vec{q}+t\vec{q}\cdot\vec{q}\\ &=r\vec{n}\cdot\vec{q}+s\vec{p}\cdot\vec{q}+t\left|\vec{q}\right|^{2}\TF{式Ｅ} \end{align} $$

ここで、
$\left\{\begin{array}{l} \begin{aligned} \overrightarrow{\mathrm{OA}}\cdot\vec{q}&=6\cdot 0+(-1)\cdot 1+1\cdot(-1)\\ &=-2 \end{aligned}\\ \FB{イ}\text{より} \left|\vec{q}\right|=\sqrt{2}\\ \vec{n} \perp \vec{q} \text{より} \vec{n}\cdot\vec{q}=0\\ \vec{p} \perp \vec{q} \text{より} \vec{p}\cdot\vec{q}=0 \end{array}\right.$

なので、式Ｅは
$r\cdot 0+s\cdot 0+t\cdot\sqrt{2}^{2}=-2$
$2t=-2$
$t=-1$
となる。

解答サ：－, シ：１

アドバイス

以上、問題文の誘導するとおりに解いた。
でも、この解き方をすると計算が面倒になりがちなので要注意だ。今回 面倒な計算にならなかったのは、基準となるベクトル$\vec{n}$，$\vec{p}$，$\vec{q}$が互いに垂直だったから。
一般的な解法で解くと、次の別解のようになる。センター試験本番では、別解の方法で解いてもらっても全く問題ない。

次は$u$だ。
$\overrightarrow{\mathrm{OA}}\cdot\vec{n}$を使ってケを求めたのと同じことを、$\overrightarrow{\mathrm{OB}}\cdot\vec{n}$でもやる。

$\overrightarrow{\mathrm{OB}}=u\vec{n}+v\vec{p}+w\vec{q}$
とおいたので、
$$ \begin{align} \overrightarrow{\mathrm{OB}}\cdot\vec{n}&=\left(u\vec{n}+v\vec{p}+w\vec{q}\right)\cdot\vec{n}\\ &=u\vec{n}\cdot\vec{n}+v\vec{p}\cdot\vec{n}+w\vec{q}\cdot\vec{n}\TF{式Ｈ} \end{align} $$ とかける。

ここで、
$\left\{\begin{array}{l} \begin{aligned} \overrightarrow{\mathrm{OB}}\cdot\vec{n}&=1\cdot 1+6\cdot 1+2\cdot 1\\ &=9 \end{aligned}\\ \FB{ク}\text{より} \vec{n}\cdot\vec{n}=3\\ \vec{n} \perp \vec{p} \text{より} \vec{n}\cdot\vec{p}=0\\ \vec{n} \perp \vec{q} \text{より} \vec{n}\cdot\vec{q}=0 \end{array}\right.$

なので、式Ｈは
$u\cdot 3+s\cdot 0+t\cdot 0=9$
$3u=9$
$u=3$
となる。

解答ス：３

アドバイス

スも、ケ～サシの別解のように解くのが一般的だ。
一般的な方法で解くと、次の別解のようになる。センター試験本番では、こちらの方法で解いてもらっても全く問題ない。

ケ～サシより、
$\overrightarrow{\mathrm{OC}}=-2\vec{n}+2\vec{p}-\vec{q}$
これに各ベクトルの成分を代入して、

$$ \begin{align} \overrightarrow{\mathrm{OC}}&=-2(1,1,1)+2(2,-1,-1)-(0,1,-1)\\ &=(-2,-2,-2)+(4,-2,-2)+(0,-1,1)\\ &=(-2+4,-2-2-1,-2-2+1)\\ &=(2,-5,-3) \end{align} $$ である。

解答セ：２, ソ：－, タ：５, チ：－, ツ：３

以上より、
$\left\{\begin{array}{l} \overrightarrow{\mathrm{OA}}=2\vec{n}+2\vec{p}-\vec{q}=(6,-1,1)\\ \overrightarrow{\mathrm{OB}}=3\vec{n}+v\vec{p}+w\vec{q}=(1,6,2)\\ \overrightarrow{\mathrm{OC}}=-2\vec{n}+2\vec{p}-\vec{q}=(2,-5,3) \end{array}\right.$
であることが分かった。

図Ｄのように、$\mathrm{BC}$と平面$\alpha$の交点を$\mathrm{M}$、点$\mathrm{A}$，点$\mathrm{B}$から平面$\alpha$に下ろした垂線の足を点$\mathrm{H}$，点$\mathrm{I}$とする。
$\vec{p}$，$\vec{q}$は平面$\alpha$上のベクトル
$\vec{n} \perp \vec{p}$，$\vec{n} \perp \vec{q}$ だから、平面$\alpha$と$\vec{n}$は垂直

なので、
$\overrightarrow{\mathrm{OA}}=\AKA{2\vec{n}}+\MIDORI{2\vec{p}-\vec{q}}$
の赤い部分が$\overrightarrow{\mathrm{HA}}$，緑の部分が$\overrightarrow{\mathrm{OH}}$にあたる。

同様に、
$\overrightarrow{\mathrm{OB}}=\AKA{3\vec{n}}+\MIDORI{v\vec{p}+w\vec{q}}$
の赤い部分が$\overrightarrow{\mathrm{IB}}$，緑の部分が$\overrightarrow{\mathrm{OI}}$に、
$\overrightarrow{\mathrm{OC}}=\AKA{-2\vec{n}}+\MIDORI{2\vec{p}-\vec{q}}$
の赤い部分が$\overrightarrow{\mathrm{HB}}$，緑の部分が$\overrightarrow{\mathrm{OH}}$にあたる。

以上より、
$\mathrm{IB}:\mathrm{HC}=3:2$ 点$\mathrm{A}$と点$\mathrm{C}$は平面$\alpha$に関して対称な点 であることが分かる。

よって、図Ｄの緑の三角形と青い三角形は相似で、相似比は
$3:2$
だから、
$\mathrm{AM}:\mathrm{CM}=3:2$
である。

解答テ：２

このことから、点$\mathrm{M}$は線分$\mathrm{BC}$を$3:2$に内分する点なので、
$\overrightarrow{\mathrm{OM}}=\dfrac{2\overrightarrow{\mathrm{OB}}+3\overrightarrow{\mathrm{OC}}}{3+2}$
と表せる。

これに$\overrightarrow{\mathrm{OB}}$，$\overrightarrow{\mathrm{OC}}$の成分を代入して、
$\overrightarrow{\mathrm{OM}}=\dfrac{2(1,\ 6,\ 2)+3(2,\ -5,\ -3)}{3+2}$

途中式

$$ \begin{align} \phantom{\overrightarrow{\mathrm{OM}}}&=\frac{(2,\ 12,\ 4)+(6,\ -15,\ -9)}{5}\\ &=\frac{(8,\ -3,\ -5)}{5}\\ &=\left(\frac{8}{5},\ \frac{-3}{5},\ \frac{-5}{5}\right) \end{align} $$

$\phantom{\overrightarrow{\mathrm{OM}}}=\left(\dfrac{8}{5},\ -\dfrac{3}{5},\ -1\right)$
である。

解答ト：８, ナ：５, ニ：－, ヌ：３, ネ：５, ノ：－, ハ：１