벡터 내적의 최대최소_난이도 상 (2016년 10월 교육청 가형 29번)

좌표공간에서 두 점 $\rm A(0, \; 0, \; 2),  \;\; B(2, \; 4,\; -2)$ 에 대하여 두 점 $\rm P, \; Q$ 가 다음 조건을 만족시킨다.

(가) $\overrightarrow{\rm OA} \cdot \overrightarrow{\rm OP} = 0, \;\; \left | \overrightarrow{\rm OP} \right | = 3$

(나) $\overrightarrow{\rm AB} \cdot \overrightarrow{\rm BQ}=0, \;\; \left | \overrightarrow{\rm BQ} \right | =2$

$\overrightarrow{\rm OP} \cdot \overrightarrow{\rm AQ}$ 의 최댓값이 $a+b\sqrt{5}$ 일 때, 두 유리수 $a, \; b$ 에 대하여 $ab$ 의 값을 구하시오. (단, $\rm O$ 는 원점이다.)

정답 $24$