図Ａより、
$$ \begin{align} $\overrightarrow{\mathrm{AB}}&=\overrightarrow{\mathrm{FB}}-\overrightarrow{\mathrm{FA}}\\ &=\vec{q}-\vec{p} \end{align} $$ とかける。

解答ア：２

よって、
$$ \begin{align} \left|\overrightarrow{\mathrm{AB}}\right|^{2}&=\overrightarrow{\mathrm{AB}}\cdot\overrightarrow{\mathrm{AB}}$\\ &=(\vec{q}-\vec{p})\cdot(\vec{q}-\vec{p})\\ &=\vec{p}\cdot\vec{p}-2\vec{p}\cdot\vec{q}+\vec{q}\cdot\vec{q}\\ &=\left|\vec{p}\right|^{2}-2\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}\class{tex_formula}{①} \end{align} $$ となる。

解答イ：２

点$\mathrm{D}$は、線分$\mathrm{AB}$を$1:3$に内分する点なので、
$$ \begin{align} \overrightarrow{\mathrm{FD}}&=\frac{3\overrightarrow{\mathrm{FA}}+\overrightarrow{\mathrm{FB}}}{1+3}\\ &=\frac{3\vec{p}+\vec{q}}{4}\\ &=\frac{3}{4}\vec{p}+\frac{1}{4}\vec{q}\class{tex_formula}{②} \end{align} $$ である。

解答ウ：３, エ：４, オ：１, カ：４

式②に$\overrightarrow{\mathrm{FD}}=s\vec{r}$を代入すると、
$s\displaystyle \vec{r}=\frac{3}{4}\vec{p}+\frac{1}{4}\vec{q}$
$4s\vec{r}=3\vec{p}+\vec{q}$
$\vec{q}=-3\vec{p}+4s\vec{r}$③
となる。

解答キ：－, ク：３, ケ：４

また、点$\mathrm{E}$は、線分$\mathrm{BC}$を$a:1-a$に内分する点なので、
$\overrightarrow{\mathrm{FE}}=(1-a)\overrightarrow{\mathrm{FB}}+a\overrightarrow{\mathrm{FC}}$
となるから、
$t\vec{p}=(1-a)\vec{q}+a\vec{r}$
$(1-a)\vec{q}=t\vec{p}-a\vec{r}$
$\displaystyle \vec{q}=\frac{t}{1-a}\vec{p}-\frac{a}{1-a}\vec{r}$④
である。

解答コ：１, サ：ａ, シ：ａ

式③と式④は等しいので、
$\left\{\begin{array}{l} -\dfrac{a}{1-a}=4s\\ \dfrac{t}{1-a}=-3 \end{array}\right.$
とかける。
これを計算して、
$\left\{\begin{array}{l} s=\dfrac{-a}{4(1-a)}\\ t=-3(1-a) \end{array}\right.$
となる。

解答ス：－, セ：ａ, ソ：４, タ：－, チ：３

式①に$\left|\vec{p}\right|=1$を代入して、
$\left|\overrightarrow{\mathrm{AB}}\right|^{2}=1-2\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}$①'
である。

アドバイス

次は$\overrightarrow{\mathrm{BE}}$だけど、$\overrightarrow{\mathrm{BE}}$は
$\overrightarrow{\mathrm{FE}}-\overrightarrow{\mathrm{FB}}$を使って、
$\overrightarrow{\mathrm{BE}}=t\vec{p}-\vec{q}$式Ａ
$a\overrightarrow{\mathrm{BC}}$を使って、
$\overrightarrow{\mathrm{BE}}=a(\vec{r}-\vec{q})$
と、２通りの表し方が考えられる。
けれど、ツテの式を見ると、右辺に$\vec{r}$がないので、式Ａの方を使おう。

$\overrightarrow{\mathrm{BE}}=\overrightarrow{\mathrm{FE}}-\overrightarrow{\mathrm{FB}}$
なので、
$\overrightarrow{\mathrm{BE}}=t\vec{p}-\vec{q}$
(3)より、$t=-3(1-a)$なので、
$\overrightarrow{\mathrm{BE}}=-3(1-a)\vec{p}-\vec{q}$
$\left|\overrightarrow{\mathrm{BE}}\right|^{2}=\left|-3(1-a)\vec{p}-\vec{q}\right|^{2}$

途中式

$$ \begin{align} \phantom{|\overrightarrow{\mathrm{BE}}|^{2}}&=\{-3(1-a)\vec{p}-\vec{q}\}\\ &\hspace{40px}\cdot\{-3(1-a)\vec{p}-\vec{q}\}\\ &=\{-3(1-a)\vec{p}\}\cdot\{-3(1-a)\vec{p}\}\\ &+2\{3(1-a)\vec{p}\}\cdot\vec{q}+\vec{q}\cdot\vec{q} \end{align} $$

$\phantom{|\overrightarrow{\mathrm{BE}}|^{2}}=9(1-a)^{2}\left|\vec{p}\right|^{2}+6(1-a)\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}$
だけど、$\left|\vec{p}\right|=1$なので、
$\left|\overrightarrow{\mathrm{BE}}\right|^{2}=9(1-a)^{2}+6(1-a)\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}$
式Ｂ
となる。

解答ツ：９, テ：６

$\left|\overrightarrow{\mathrm{AB}}\right|=\left|\overrightarrow{\mathrm{BE}}\right|$なので、$\left|\overrightarrow{\mathrm{AB}}\right|^{2}=\left|\overrightarrow{\mathrm{BE}}\right|^{2}$である。
よって、式①'$=$式Ｂより、
$1-2\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}=9(1-a)^{2}+6(1-a)\vec{p}\cdot\vec{q}+\left|\vec{q}\right|^{2}$

途中式

$1-2\vec{p}\cdot\vec{q}=9(1-a)^{2}+6(1-a)\vec{p}\cdot\vec{q}$
$6(1-a)\vec{p}\cdot\vec{q}+2\vec{p}\cdot\vec{q}=1-9(1-a)^{2}$
$2(3-3a+1)\vec{p}\cdot\vec{q}=1-9+18a-9a^{2}$
$2(4-3a)\vec{p}\cdot\vec{q}=-8+18a-9a^{2}$

$2(4-3a)\vec{p}\cdot\vec{q}=-(4-3a)(2-3a)$
$0 \lt a \lt 1$より$4-3a\neq 0$なので、両辺を$4-3a$で割っても大丈夫。
$2\vec{p}\cdot\vec{q}=-(2-3a)$
$\displaystyle \vec{p}\cdot\vec{q}=\frac{3a-2}{2}$
である。

解答ト：３, ナ：ａ, ニ：２, ヌ：２