Решите функциональное уравнение, что-ли...

Выберем x=f(y), очевидно, что это можно сделать для любого "y" из области определения f. При этом правая часть определена, а аргумент функции в левой части есть 0. Значит f(0) существует. Далее получим:
f(0)=f(x)+x²+ f(x) - 1=2f(x)+x²- 1
Положим х=0
f(0)=2f(0) - 1
f(0)=1
f(x)=½(2-x²)
Ну и проверим, что все ОК

f(y) = t
f(x-t) = f(t) + x t + f(x) - 1
t=0 --> f(0) = 1
x=0 --> f(-t) = f(t)
x=t --> 2 = 2f(x) + x²
f(x) = 1 - x²/2