После работы с пером, фотошоп автоматически меняет формат изображения на PSD, как это исправить?

Так и должно быть. Если вы создаёте новый слой Фотошоп будет по умолчанию сохранять файл с расширением .psd

Перо создает вспомогательные векторные элементы, сохраниться которые могут только в формате *.psd. вот он его и предлагает, все нормально. Но это не препятствие для сохренения результата в других форматах.

Если у тебя в фотошопе больше одного слоя, он всегда будет предлагать сохранять в PSD. Или своди слои или сохраняй работу в нужном тебе формате.