1) Вы перешли от координат (x,y) к координатам (r,ф), никаких x, y в интеграле остаться при этом не могло. Перепроверьте пределы. 2) Куда у вас делась подынтегральная функция? До перехода в полярки там был арктангенс, после перехода в полярки он куда-то пропал.