Если оставлять рисунок в растре (но в другом размере) , то только отрисовывать заново сверху. Если в векторе - то ...только отрисовывать заново сверху.. . )
Вырезаешь нужную часть на новый слой. На основном все закрашиваешь, и на втором слое потихонечку аккуратно подтираешь резинкой. Если у вас уже отдельные слои, то еще проще. Оригинал где взяли? уже был такой?
Изначально надо работать в растре с высоким разрешением (не 72 дпи, а хотя бы 200-300) - и не будет вопросов по ступенькам, да и антиаилисинг - галочку включать тоже надо не забывать