Как называется если в уравнении нельзя выразить x отдельно от y, или наоборот y от x ?

Вообще-то, специального термина для этого, насколько я помню, нет.
Есть общее понятие - неявная функция - уравнение F(x, y) = 0
В такой форме это - неявная функция, независимо от того, можно ли выразить одну переменную через другую или нет.
Возможен случай, когда одна переменная выражается через другую однозначным образом в виде, например, равенства y = f(x).
Возможен случай, когда существует несколько различных зависимостей одной переменной от другой: у = f1(x), y = f2(x) и т. д. и все они при подстановке в уравнение F(x, y) обращают его в тождество. Это называется многозначной функцией (исторически сложившийся, но не совсем уместный термин - функция обычно предполагает однозначную зависимость).
И, наконец, возможен случай, когда ни одну переменную нельзя выразить через другую даже в виде многозначной функции. Как я уже сказал, этот термин не имеет специального названия, и считается частным случаем неявной функции.
Я бы назвал этот случай - неприводимым случаем или строго неявной функцией...