図Ａで、
$$ \begin{align} \overrightarrow{\mathrm{OD}}&=\overrightarrow{\mathrm{OA}}+\overrightarrow{\mathrm{AD}}\\ &=\vec{a}+\overrightarrow{\mathrm{AD}} \class{tex_formula}{式Ａ} \end{align} $$ ここで、$\mathrm{ABCD}$は長方形なので、
$$ \begin{align} \overrightarrow{\mathrm{AD}}&=\overrightarrow{\mathrm{BC}}\\ &=\overrightarrow{\mathrm{OC}}-\overrightarrow{\mathrm{OB}}\\ &=\vec{c}-\vec{b} \end{align} $$ となるから、式Ａは
$$ \begin{align} \overrightarrow{\mathrm{OD}}&=\vec{a}+\vec{c}-\vec{b}\\ &=\vec{a}-\vec{b}+\vec{c} \end{align} $$ と表せる。

解答ア：ａ, イ：ｂ

$$ \begin{align} \overrightarrow{\mathrm{AL}}&=\overrightarrow{\mathrm{OL}}-\overrightarrow{\mathrm{OA}}\\ &=\overrightarrow{\mathrm{OL}}-\vec{a} \class{tex_formula}{式Ｂ} \end{align} $$ ここで、$\overrightarrow{\mathrm{OL}}=\dfrac{1}{3}\overrightarrow{\mathrm{OD}}$なので、
$\overrightarrow{\mathrm{OL}}=\dfrac{1}{3}(\vec{a}-\vec{b}+\vec{c})$
となるから、式Ｂは
$$ \begin{align} \overrightarrow{\mathrm{AL}}&=\dfrac{1}{3}(\vec{a}-\vec{b}+\vec{c})-\vec{a}\\ &=\left(\dfrac{1}{3}-1\right)\vec{a}-\dfrac{1}{3}\vec{b}+\dfrac{1}{3}\vec{c}\\ &=-\dfrac{2}{3}\vec{a}-\dfrac{1}{3}\vec{b}+\dfrac{1}{3}\vec{c} \class{tex_formula}{式Ｃ} \end{align} $$ と表せる。

解答ウ：２, エ：３, オ：１, カ：１

$\overrightarrow{\mathrm{AN}}$を、$\overrightarrow{\mathrm{AN}}=s\overrightarrow{\mathrm{AL}}+t\overrightarrow{\mathrm{AM}}$と表す。
$\overrightarrow{\mathrm{AL}}$は式Ｃで求めてあるけど、$\overrightarrow{\mathrm{AM}}$がまだだ。
なので、まず$\overrightarrow{\mathrm{AM}}$から始めよう。

$$ \begin{align} \overrightarrow{\mathrm{AM}}&=\overrightarrow{\mathrm{OM}}-\overrightarrow{\mathrm{OA}}\\ &=\overrightarrow{\mathrm{OM}}-\vec{a} \class{tex_formula}{式Ｄ} \end{align} $$ ここで、$\overrightarrow{\mathrm{OM}}=\dfrac{1}{2}\overrightarrow{\mathrm{OB}}$なので、
$\overrightarrow{\mathrm{OM}}=\dfrac{1}{2}\vec{b}$
となるから、式Ｄは
$\overrightarrow{\mathrm{AM}}=\dfrac{1}{2}\vec{b}-\vec{a}$式Ｅ
と表せる。

$\overrightarrow{\mathrm{AN}}=s\overrightarrow{\mathrm{AL}}+t\overrightarrow{\mathrm{AM}}$
に式Ｃ，式Ｅを代入して、
$\overrightarrow{\mathrm{AN}}=s\left(-\dfrac{2}{3}\vec{a}-\dfrac{1}{3}\vec{b}+\dfrac{1}{3}\vec{c}\right)+t\left(\dfrac{1}{2}\vec{b}-\vec{a}\right)$

途中式

$$ \begin{align} \phantom{\overrightarrow{\mathrm{AN}}}&=-\dfrac{2}{3}s\vec{a}-\dfrac{1}{3}s\vec{b}+\dfrac{1}{3}s\vec{c}+\dfrac{1}{2}t\vec{b}-t\vec{a}\\ &=-\dfrac{2}{3}s\vec{a}-t\vec{a}-\dfrac{1}{3}s\vec{b}+\dfrac{1}{2}t\vec{b}+\dfrac{1}{3}s\vec{c} \end{align} $$

$\begin{aligned}\phantom{\overrightarrow{\mathrm{AN}}}=\left(-\dfrac{2}{3}s-t\right)\vec{a}+&\left(-\dfrac{1}{3}s+\dfrac{1}{2}t\right)\vec{b}\\ &+\dfrac{1}{3}s\vec{c} \class{tex_formula}{式Ｆ} \end{aligned}$

ここで、$\overrightarrow{\mathrm{ON}}=\overrightarrow{\mathrm{OA}}+\overrightarrow{\mathrm{AN}}$なので、
$\overrightarrow{\mathrm{ON}}=\vec{a}+\overrightarrow{\mathrm{AN}}$
これに式Ｆを代入して、
$$ \begin{align} \overrightarrow{\mathrm{ON}}&=\vec{a}+\left(-\dfrac{2}{3}s-t\right)\vec{a}\\ &\hspace{100px}+\left(-\dfrac{1}{3}s+\dfrac{1}{2}t\right)\vec{b}+\dfrac{1}{3}s\vec{c}\\ &=\left(1-\dfrac{2}{3}s-t\right)\vec{a}+\left(-\dfrac{1}{3}s+\dfrac{1}{2}t\right)\vec{b}\\ &\hspace{160px}+\dfrac{1}{3}s\vec{c} \class{tex_formula}{式Ｇ} \end{align} $$ となる。

解答キ：１, ク：２, ケ：３, コ：３, サ：２, シ：３

また、点Nは辺OC上にあるので、
$$ \begin{align} \overrightarrow{\mathrm{ON}}&=k\overrightarrow{\mathrm{OC}}\\ &=k\overrightarrow{\mathrm{c}} \class{tex_formula}{式Ｈ} \end{align} $$ とかける。

式Ｇ$=$式Ｈより、
$\left\{\begin{array}{l} 1-\dfrac{2}{3}s-t=0\\ -\dfrac{1}{3}s+\dfrac{1}{2}t=0\\ \dfrac{1}{3}s=k \end{array}\right.$
である。

この連立方程式を解くんだけど、スセにあたるのは$k$だから、$k$を求める方針で。

一番下の式を上の2つに代入して、まず$s$を消そう。
$\left\{\begin{array}{l} 1-2k-t=0\\ -k+\dfrac{1}{2}t=0 \end{array}\right.$
下の式を２倍して上の式と加減法をすると、$t$も消える。

	$1-2k$	$-t=0$
$+)$	$-2k$	$+t=0$
	$1-4k$	$=0$

よって、
$k=\dfrac{1}{4}$
である。

解答ス：１, セ：４

$\vec{a}\cdot\vec{b}=\left|\vec{a}\right|\cdot\left|\vec{b}\right|\cos\angle \mathrm{AOB}$式Ｉ
問題文より、$\left|\vec{a}\right|=\left|\vec{b}\right|=1$である。
また、$\cos\angle \mathrm{AOB}$は、$\triangle \mathrm{OAB}$に余弦定理を使って、
$\mathrm{AB}^{2}=\mathrm{OA}^{2}+\mathrm{OB}^{2}-2\cdot \mathrm{OA}\cdot \mathrm{OB}\cos\angle \mathrm{AOB}$
$$ \begin{align} \cos\angle \mathrm{AOB}&=\dfrac{\mathrm{OA}^{2}+\mathrm{OB}^{2}-\mathrm{AB}^{2}}{2\cdot \mathrm{OA}\cdot \mathrm{OB}}\\ &=\dfrac{1+1-(2r)^{2}}{2\cdot 1\cdot 1}\\ &=\dfrac{2-4r^{2}}{2}\\ &=1-2r^{2} \end{align} $$

これを式Ｉに代入して、
$$ \begin{align} \vec{a}\cdot\vec{b}&=1\cdot 1\cdot(1-2r^{2})\\ &=1-2r^{2} \end{align} $$ となる。

解答ソ：１, タ：２

$\mathrm{OB}:\mathrm{BC}:\mathrm{CO}=1:2:\sqrt{3}$より、$\triangle \mathrm{OBC}$は$\angle \mathrm{BOC}=90^{\circ}$の直角三角形。
よって、$\overrightarrow{\mathrm{OB}} \perp \overrightarrow{\mathrm{OC}}$なので、
$\vec{b}\cdot\vec{c}=0$
である。

解答チ：０

$\vec{a}\cdot\vec{c}=\left|\vec{a}\right|\cdot\left|\vec{c}\right|\cos\angle \mathrm{AOC}$式Ｊ

$\cos\angle \mathrm{AOC}$は、$\triangle \mathrm{OAC}$に余弦定理を使って、
$\mathrm{AC}^{2}=\mathrm{OA}^{2}+\mathrm{OC}^{2}-2\cdot \mathrm{OA}\cdot \mathrm{OC}\cos\angle \mathrm{AOC}$
$\cos\angle \mathrm{AOC}=\dfrac{\mathrm{OA}^{2}+\mathrm{OC}^{2}-\mathrm{AC}^{2}}{2\cdot \mathrm{OA}\cdot \mathrm{OC}}$式Ｋ

ここで、$\mathrm{OA}=1$，$\mathrm{OC}=\sqrt{3}$である。
また、$\mathrm{AC}^{2}$は、辺の長さが$2r$と$2$の長方形$\mathrm{ABCD}$の対角線なので、三平方の定理より
$$ \begin{align} \mathrm{AC}^{2}&=\mathrm{AB}^{2}+\mathrm{BC}^{2}\\ &=(2r)^{2}+2^{2}\\ &=4r^{2}+4 \end{align} $$

これを式Ｋに代入して、
$$ \begin{align} \cos\angle \mathrm{AOB}&=\dfrac{1+3-(4r^{2}+4)}{2\cdot 1\cdot\sqrt{3}}\\ &=-\dfrac{4r^{2}}{2\sqrt{3}}\\ &=-\dfrac{2r^{2}}{\sqrt{3}} \end{align} $$

これと、$\left|\vec{a}\right|=1$，$\left|\overrightarrow{\mathrm{c}}\right|=\sqrt{3}$を式Ｊに代入して、
$$ \begin{align} \vec{a}\cdot\vec{c}&=1\cdot\sqrt{3}\cdot\left(-\dfrac{2r^{2}}{\sqrt{3}}\right)\\ &=-2r^{2} \end{align} $$ である。

解答ツ：－, テ：２

$\overrightarrow{\mathrm{ON}}=\dfrac{1}{4}\vec{c}$ $\overrightarrow{\mathrm{OM}}=\dfrac{1}{2}\vec{b}$ なので、
$$ \begin{align} \overrightarrow{\mathrm{MN}}&=\overrightarrow{\mathrm{ON}}-\overrightarrow{\mathrm{OM}}\\ &=\dfrac{1}{4}\vec{c}-\dfrac{1}{2}\vec{b} \end{align} $$ である。

また、式Ｅより、
$\overrightarrow{\mathrm{AM}}=\dfrac{1}{2}\vec{b}-\vec{a}$
であるから、
$$ \begin{align} \overrightarrow{\mathrm{AM}}\cdot\overrightarrow{\mathrm{MN}}&=\left(\dfrac{1}{2}\vec{b}-\vec{a}\right)\cdot\left(\dfrac{1}{4}\vec{c}-\dfrac{1}{2}\vec{b}\right)\\ &=\dfrac{1}{8}\vec{b}\cdot\vec{c}-\dfrac{1}{4}\left|\vec{b}\right|^{2}-\dfrac{1}{4}\vec{a}\cdot\vec{c}+\dfrac{1}{2}\vec{a}\cdot\vec{b} \end{align} $$ これにソタチツテを代入して、
$$ \begin{align} \overrightarrow{\mathrm{AM}}\cdot\overrightarrow{\mathrm{MN}}&=\dfrac{1}{8}\cdot 0-\dfrac{1}{4}\cdot 1^{2}\\ &\hspace{50px}-\dfrac{1}{4}(-2r^{2})+\dfrac{1}{2}(1-2r^{2})\\ &=-\dfrac{1}{4}+\dfrac{1}{2}r^{2}+\dfrac{1}{2}-r^{2}\\ &=\dfrac{1}{4}-\dfrac{1}{2}r^{2} \end{align} $$ となる。

$\mathrm{AM} \perp \mathrm{MN}$のとき、$\overrightarrow{\mathrm{AM}}\cdot\overrightarrow{\mathrm{MN}}=0$なので、
$\dfrac{1}{4}-\dfrac{1}{2}r^{2}=0$
$r^{2}=\dfrac{1}{2}$
$r=\pm\dfrac{1}{\sqrt{2}}$
$0 \lt r$なので、
$r=\dfrac{1}{\sqrt{2}}$
となる。

$\mathrm{AB}=2r$なので、
$$ \begin{align} \mathrm{AB}&=\dfrac{2}{\sqrt{2}}\\ &=\sqrt{2} \end{align} $$ である。

解答ト：２