На этапе выделения
1 пиксель достаточно
Дополнительно можно создать дубликат слоя и подкорректировать цвета, что бы белый стал белее, а все прочие цвета темнее - это скроет шакальность контуров, выделяешь волшебной палкой с растушевкой 1 пиксель, делаешь маску и переносишь на исходник, применяешь.