косинус НЕпрямоугольного триугольника

Косинус угла в НЕпрямоугольном треугольнике вычисляется вовсе не как отношение прилежащего катета к гипотенузе. В таком треугольнике вообще нет гипотенузы. Нет также и катетов. Это ответ на вопрос, что является гипотенузой НЕпрямоугольного треугольника.

Косинус угла зависит только от самого угла и не зависит от самого треугольника и тем более, от того, какой это треугольник - прямоугольный или нет.

Обычно косинус угла вычисляют, строя прямоугольный треугольник, у которого острый угол равен данному, и вычисляют его косинус по определению. Такой же косинус будет у любого угла, который равен данному, независимо от того, в каком он треугольнике.

Но при пользовании теоремы косинусов угол между сторонами треугольника может быть и тупым. Тогда нельзя построить прямоугольный треугольник с таким углом. В этом случае пользуются расширенным определением косинуса. В декартову систему координат помещают полуокружность радиуса 1 с диаметром, лежащим на оси абсцисс и центром в начале координат и от положительного направления оси абсцисс откладывают угол, равный данному (который может быть острым, прямым, тупым и даже развёрнутым). Абсцисса точки, в которой сторона отложенного угла пересекает полуокружность - и есть косинус угла по такому определению. Его в общем случае и можно использовать в теореме косинусов.