Фотошоп. Нужна помощь с фигурами

Сим салабим, абра кадабра. Готово.

картинка должна быть в хорошем качестве. при растягивании она качество теряет

Растрировать только после окончательного размещения на холсте.
Функции Fill и Stroke создают растровую заливку или обводку векторной фигуры.
Это вам не Корел или Иллюстратор, где все постоянно в векторе.

вот так?
увеличить.. СИЛЬНО УВЕЛИЧИТЬ размер документа.

Я на прозрачном фоне создавал произвольную фигуру и определял как кисть, может это вам поможет.

Переходи на Корел (вектор).

Фотошоп - растровый редактор, все в нем СОСТОИТ из пикселей, их невозможно убрать. Что-бы они стали невидимыми, их должно быть очень-очень много, не меньше чем 3-4 тысячи по длинной стороне документа... это если для печати. Для интернета другие стандарты, там все индивидуально.