Если вы считаете, что первый ответ не верен, значит в условии идет речь о полной поверхности цилиндра или просто ваш ответ, с которым вы сравниваете неверен. Если речь идет о полной поверхности, то уравнение выглядит следующим образом: 2*Pi*R^2+2*Pi*R*H=S. Обычное квадратное уравнение, которое и решается по известным формулам.