Могу ли я вести предпринимательскую деятельность?

Регистрация ИП - только по месту прописки.
Деятельность можно вести в любом регионе.
Если выберете ЕНВД и ваша деятельность входит в перечень по ЕНВД в регионе где будете работать, то на учет по ЕНВД заявление подается в налоговую по месту деятельности, туда же сдавать декларации по ЕНВД.
Если хотите патентную систему налогообложения, то заявление на патент в налоговую по месту деятельности.
Если выберете УСН или ОСНО, то отчетность в свою налоговую.
Обязательные страховые взносы ИП платить в свой ПФР.
Когда будут наемные работники - спросите отдельно, куда за них платить и отчитываться, там есть нюансы.