【解答】
【新課程】
，， より，題意の関係式
を成分表示で考える．まず左辺は
であり，右辺は
である．(式4),(式5)の各成分を比較して，
(式6) と (式7) より
これを(式6)に代入して
（のときも(式7)よりとなり成立する）．
同様に，(式8) と (式9) より
これを(式9)に代入して
以上より，
である．
次に， に対し とおくと， は実数全体を動き，
が成り立つ．したがって，
となるから，行列は原点のまわりに角だけ回転する移動を表す．
ゆえに， で定まる点は，点を原点のまわりに角だけ回転した点である．
点と原点との距離は であるから，点は原点を中心とする半径の円周上を動く．
ここで， より であるから，点を原点まわりに回転した点
のみ動くことができない（ のときの極限に対応する）．
したがって，求める図形は
であり，これを図示すると下図のようになる．
図 1: 点の軌跡
【旧課程】
【解答】
図 2: 円に内接する5角形 における中心角 と内角
円に内接する5角形の頂点は円周上に反時計回りに並んでいるとする．
円の中心をとし，各弧（ただし）に対する中心角の大きさをとする（）．
頂点が円周上にこの順に並ぶことから，
である．円周角の定理により，頂点における内角の大きさは，弧および弧以外の円周部分に対する円周角であるから，
が成り立つ（ただし添字は とし， とする）．
(i) 必要性の証明
(式20)をについて加えると，(式19)より
が成り立つ．また，
であり， であるから が成り立つ．
添字を巡回させることにより，同様にして
が成り立つ．したがって，与えられた条件が成り立つことは必要である．
(ii) 十分性の証明
逆に，正の数 が
を満たすと仮定する．ここで
とおくと，仮定(式30)より （）である．
また，これらの和をとると
である．さらに，
となり，同様にしてすべての に対し が成り立つ．
そこで，任意の円を1つとり，その円周上に弧に対する中心角がとなるように点を反時計回りに順にとる．
かつ各 であるから，これらは円周上に相異なる5点としてこの順に並び，凸5角形をなす．
このとき，各内角の大きさは円周角の定理より となり，各角の大きさが である円に内接する5角形が存在する．
したがって，十分である．
以上より，題意は証明された．
