式①を変形して、
$2\cos^{2}(\beta-\alpha)=3\sin(\beta-\alpha)$
$2\{1-\sin^{2}(\beta-\alpha)\}=3\sin(\beta-\alpha)$

$\sin(\beta-\alpha)=t$とすると、この式は
$2(1-t^{2})=3t$
とかける。

これを変形して、
$2-2t^{2}=3t$
$2t^{2}+3t-2=0$
$(2t-1)(t+2)=0$
より、
$t=\displaystyle \frac{1}{2}$，$-2$
である。

ここで、$t=\sin(\beta-\alpha)$なので、$t=-2$は不適。

解答ア：１, イ：２

また、$\alpha$の定義域
$0\displaystyle \leqq\alpha\leqq\frac{\pi}{2}$
の各辺に$-1$をかけて、
$0\displaystyle \geqq-\alpha\geqq-\frac{\pi}{2}$
$-\displaystyle \frac{\pi}{2}\leqq-\alpha\leqq 0$
これと$\beta$の定義域を辺々たすと、

であることが分かる。

以上から、$\beta-\alpha=\theta$とおくと、
$\left\{\begin{array}{l}
\sin\theta=\frac{1}{2}\\
-\frac{\pi}{2}\leqq\theta\leqq\frac{\pi}{2}
\end{array}\right.$
なので、定義域を緑の範囲として、図Ａが描ける。

図Ａより、
$\displaystyle \theta=\frac{\pi}{6}$
なので、$\theta$をもとにもどして、
$\displaystyle \beta-\alpha=\frac{\pi}{6}$
である。

解答ウ：６

(1)より
$\displaystyle \beta=\alpha+\frac{\pi}{6}$式Ａ
なので、加法定理より
$\sin\beta=\sin\left(\alpha+\frac{\pi}{6}\right)$
$\displaystyle \sin\beta$$\displaystyle =\sin\alpha\cos\frac{\pi}{6}+\cos\alpha\sin\frac{\pi}{6}$
$\displaystyle \sin\beta$$\displaystyle =\frac{\sqrt{3}}{2}\sin\alpha+\frac{1}{2}\cos\alpha$
$\displaystyle \sin\beta$$\displaystyle =\frac{1}{2}(\sqrt{3}\sin\alpha+\cos\alpha)$
とかける。

これを
$ y=4\sin^{2}\beta-4\cos^{2}\alpha$
に代入して、
$ y=4\left\{\frac{1}{2}(\sqrt{3}\sin\alpha+\cos\alpha)\right\}^{2}-4\cos^{2}\alpha$
$ y$$=4\left(\frac{1}{2}\right)^{2}(\sqrt{3}\sin\alpha+\cos\alpha)^{2}-4\cos^{2}\alpha$
$ y$$=(\sqrt{3}\sin\alpha+\cos\alpha)^{2}-4\cos^{2}\alpha$

ここで因数分解してもいいんだけど、手間はあまり変わらないので展開しよう。
$ y=3\sin^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha+\cos^{2}\alpha-4\cos^{2}\alpha$
$ y$$=3\sin^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha-3\cos^{2}\alpha$
という式ができたけど、問題文中の式②には合わない。

式②には$\sin^{2}\alpha$がないので、上の式に$\sin^{2}\alpha=1-\cos^{2}\alpha$を代入して消そう。
$ y=3(1-\cos^{2}\alpha)+2\sqrt{3}\sin\alpha\cos\alpha-3\cos^{2}\alpha$
$ y$$=3-3\cos^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha-3\cos^{2}\alpha$
$ y$$=3-6\cos^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha$式②
で、式②ができた。

解答エ：３, オ：６, カ：２, キ：３

次に、$y=3$になるときを考える。

式②に$y=3$を代入して、
$ 3=3-6\cos^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha$
$2\sqrt{3}\sin\alpha\cos\alpha-6\cos^{2}\alpha=0$

両辺を$2\sqrt{3}$で割って、
$\sin\alpha\cos\alpha-\sqrt{3}\cos^{2}\alpha=0$
$\cos\alpha(\sin\alpha-\sqrt{3}\cos\alpha)=0$

より、$y=3$のとき、
$\cos\alpha=0$ または $\sin\alpha-\sqrt{3}\cos\alpha=0$
であることが分かる。

$\cos\alpha=0$のとき、
$0\displaystyle \leqq\alpha\leqq\frac{\pi}{2}$なので、$\displaystyle \alpha=\frac{\pi}{2}$
これを式Ａに代入して、
$\displaystyle \beta=\frac{\pi}{2}+\frac{\pi}{6}$
$\displaystyle \beta$$\displaystyle =\frac{4\pi}{6}=\frac{2\pi}{3}$
となるけど、$0\displaystyle \leqq\beta\leqq\frac{\pi}{2}$なので不適。
なので、$\sin\alpha-\sqrt{3}\cos\alpha=0$のときだけを考えよう。

次は、このときの$\beta$の値だ。
$\displaystyle \alpha=\frac{\pi}{3}$を式Ａに代入して、
$\displaystyle \beta=\frac{\pi}{3}+\frac{\pi}{6}$
$\displaystyle \beta$$\displaystyle =\frac{\pi}{2}$
である。

解答ケ：２

ここで、２倍角の公式の復習をしよう。

式Ｃより、
$ 2\sin\alpha\cos\alpha=\sin 2\alpha$式Ｃ' 式Ｄより、
$ 2\cos^{2}\alpha-1=\cos 2\alpha$
$2\cos^{2}\alpha=\cos 2\alpha+1$式Ｄ' 式②より、
$ y=3-6\cos^{2}\alpha+2\sqrt{3}\sin\alpha\cos\alpha$
$ y$$=3-3(2\cos^{2}\alpha)+\sqrt{3}(2\sin\alpha\cos\alpha)$式②'

式②'に式Ｃ'，式Ｄ'を代入すると、
$ y=3-3(\cos 2\alpha+1)+\sqrt{3}\sin 2\alpha$
$ y$$=\sqrt{3}\sin 2\alpha-3\cos 2\alpha$
となる。

解答コ：３, サ：３

この式は、三角関数の合成をすることにより（図Ｃ）、
$y=2\sqrt{3}\sin\left(2\alpha-\frac{\pi}{3}\right)$式Ｅ
と変形できる。

解答シ：２, ス：３, セ：３

問われているのは$y=-\sqrt{3}$のときなので、式Ｅの$y$に$-\sqrt{3}$を代入して、
$2\sqrt{3}\sin\left(2\alpha-\frac{\pi}{3}\right)=-\sqrt{3}$
$\displaystyle \sin\left(2\alpha-\frac{\pi}{3}\right)=-\frac{1}{2}$式Ｆ

次に、$2\displaystyle \alpha-\frac{\pi}{3}$の範囲を求める。
$0\displaystyle \leqq\alpha\leqq\frac{\pi}{2}$
の各辺を２倍して、
$ 0\leqq 2\alpha\leqq\pi$
各辺から$\displaystyle \frac{\pi}{3}$を引いて、
$-\displaystyle \frac{\pi}{3}\leqq 2\alpha-\frac{\pi}{3}\leqq\frac{2}{3}\pi$式Ｇ

$2\displaystyle \alpha-\frac{\pi}{3}=\gamma$とおくと、式Ｆ，式Ｇは
$\left\{\begin{array}{l}
\sin \gamma =-\frac{1}{2}\\
-\frac{\pi}{3}\leqq \gamma \leqq\frac{2}{3}\pi
\end{array}\right.$
となるから、定義域を緑の範囲として、図Ｄが描ける。

図Ｄより、
$\gamma =-\displaystyle \frac{\pi}{6}$
$\gamma$をもとにもどして、
$2\displaystyle \alpha-\frac{\pi}{3}=-\frac{\pi}{6}$
$2\displaystyle \alpha=\frac{\pi}{6}$
$\displaystyle \alpha=\frac{\pi}{12}$式Ｈ
である。

解答ソ：１, タ：２

このときの$\beta$の値は、式Ｈを式Ａに代入して、
$\displaystyle \beta=\frac{\pi}{12}+\frac{\pi}{6}$
$\displaystyle \beta$$\displaystyle =\frac{3}{12}\pi=\frac{\pi}{4}$
である。

解答チ：４