Правильно ли сделал? угол может быть отрицательным в данном случае?

Неправильно сделал. Ни один из углов треугольника не может быть больше или равен 180°. Картинка нарисована неверно, там угол в 315° показан как меньший 180°.
Если уж рассматривать треугольник с этими сторонами, нужно выбрать угол, меньший 180°, в данном случае, 360°-315°=45°.
Ну, судя по вопросу, тебе нужно найти не углы, а стороны (фактически - радиус окружности), но из твоего условия это сделать невозможно.