【解答】
,,とおくと,より
である.各点の座標は, ,だから題意の条件は
である.
図 1: 直線 上の点 と単位円上の点 による
題意の三角形の面積をとおくと,, より
だから,(式1),(式2)の元でこの最大値を求めれば良い.
(式1)との加法定理より
である.
さて,より
であり,これはの増加関数だから,が最大のときも最大になる.
(式3)よりその時も最大である.よって(式7)が最大になる時を考えれば良い.
より相加相乗平均の不等式から
である.等号成立は
の時である.従って(式3)に代入して求める最大のは
である.