Ну вы даёте с такими вопросами.. . п/6 (он же 30 градусов) - это "табличный" угол, для него значения функций в любом учебнике и справочнике есть!! !
cos(п/6) = (корень из 3)/2, т. е. в квадрате это будет 3/4.
Добавка: ааа, просто формулировка непонятна? "Косинус в квадрате" - значит берёте косинус (который Вы знаете, оказывается - сорри! ) и возводите в квадрат.