Подскажите, как вставить фотографию, что бы она сразу формировалась под прямоугольник...

сделай шаблон ) и вставляй на здоровье
ну на всякий случай допишу)) вдруг не знаешь?))
контрл N создаем новый док с нужными параметрами сразу
контрл A выделить все
идем в меню - select-modify-smooth
в окошке выбираем нужное количество пикселей закругления
шифт контрл I обратить выделение
залить любым однородным цветом
контрл S
назвать шаблон-углы-размер
ВСЕ.

Создай шаблон PSD с какими угодно углами и вставляй.)

..не совсем понятна цель таких стираний.
приходит на ум только GIF с прозрачностью.

Кроме ластика есть масса вариантов, создать маску, сделать прямоугольное выделение и сгладить, создать кисть, написать экшен... И просто научиться работать с выделением.

...Просто научиться работать в редакторе. Арифметика, она тоже математика. Начни с начала.
Не обижайся на такой совет. Знаешь чем учитель отличается от преподавателя?
Учитель учит учиться. А преподаватель преподносит то чему он научился.
Если будешь уметь учиться - будешь уметь сделать лучше всех. Если будешь, даже добросовестно, впитывать чужие знания - никогда не сумеешь делать лучше чем преподали.
Извини...

Фотография изначально, как правило, имеет форму прямоугольника (квадрат - частный случай прямоугольника). Поэтому не болтай ерундой и ничего не формируй.
Соотношение стлолон прямоугольника в некоторых аппаратах можно выбирать из нескольких.