Что получается выгоднее? Аренда для магазина у арендатора или открыть в своём частном доме переоборудовав?

В своём частном доме выгоднее

Видите ли в чём дело... :-\ Если вы имеете в виду классический магазин (проходил мимо, увидел, зашел, купил), то лучше чтобы он находился на людном месте... :-\ Там, знаете ли, больше потенциальных покупателей в единицу времени проходит.
Ну а если место вам не принципиально (скажем, у вас некий узконаправленный магазин, и поэтому те, кому надо и так до вас доберутся), то конечно же своя площадь выгодней! :-)

Конечно в своем, если у вас там проходимость покупателей

Выгодно там, где проходимость высокая.

вы назвали абстрактные вещи, я возьму три разных магазина и они будут разными, от содержания до прибыли... смотрите ликбезы Дмитрия Потапенко, он создавал ритейл "Пятёрочка"и многие.

Выгоднее там, где он больше прибыли будет приносить. Поэтому нужно изучать проходимость. Потом серьезно продумать ассортимент товаров. Установить видео-камеры, чтобы продавцы не воровали выручку. Или же самому торговать. Стараться общаться с клиентами и знакомится, чтобы у них было желание заходить к вам почаще.