формула для нахожденя диагоналей многоугольника

Если многоугольник произвольный, то диагонали можно находить по очереди, используя, например, теорему косинусов.
Если же многоугольник - это правильный N-угольник со стороной длины Х, то тогда задача немного упрощается. Внутренний угол при вершине
правильного N-угольника равен A=(N-2)*Pi/N.
Длина самой простой (и самой короткой) диагонали находим по теоерме косинусов, она будет равна корню квадратному из Х^2+X^2-2X*X*cosA; это выражение можно упростить, и тогда получиться, что длина этой диагонали будет равна 2*Х*sin(A/2). Для других диагоналей, наверное, можно найти итерационную формулу, которую нужно применять последовательно.