По какой формуле можно рассчитать мощность передатчика?

Алексей! В Технике радиосвязи нет даже понятия "дальность радиосвязи" потом, у что, особенно на УКВ, дальность реальной связи в конкретных условиях может быть различна. А почему вы не указываете чувствительность приемника?
Нужно точно знать многие параметры канала связи, а не только мощность.
Без расчетов, на основании своего опыта радиоинженера, при чувствительности приемника 100 мкв/м и мощности 10 мВт в эфире (это уже ваша задача согласовать входное сопротивление передающей антенны и Выхода передатчика) дальность легко получается 300 м открытого пространства на частоте 750 мГц. Я собирала примитивный телепередатчик в лаборатории.
А если у вас Курсовая- то не здесь надо спрашивать, а в Справочник смотреть...