Уравнение эквивалентно следующей системе (возвожу обе части в квадрат и взаимно уничтожаю 2xy):
x + y + 3 >= 0 И
-a = x^2 + y^2 + 6x + 6y + 9
<=>
x + y + 3 >= 0 И
(x + 3)^2 + (y + 3)^2 = 9 - a
Нер-во в этой системе задает полуплоскость, уравнение - окружность.
Т.к. расстояние от центра окружности (-3, -3) до полуплоскости x + y + 3 >= 0 равно 3/(sqrt(2), то искомое a - наименьшее целое : 3/(sqrt(2)) > sqrt(9 -a)
Возводя обе части этого нер-ва в квадрат, получаем 9/2 > 9 - a, т.е. искомое наименьшее целое a = 5.
PS. Вот тебе рисуночек в помощь, для решения он, вообще говоря, не нужен, а для лучшего понимания пригодится. Ползунок с a можешь пошевелить, а тыками по кружочкам слева в списке можешь сделать объекты невидимыми или видимыми.
https://www.desmos.com/calculator/xuqnx7rmla