Что такое "бесконечномерное линейное пространство" и где про это можно прочитать?

А это - линейное пространство, в котором нет конечного базиса. Например, пространство многочленов с вещественными (=действительными) коэффициентами. Там базис бесконечный: 1, x, x^2, x^3, ..

Или, например, бесконечномерное множество функций, в котором базис
1, sin x, cos x, sin 2x, cos 2x,...
Прочитать об этом можно в учебниках по матанализу для 2-го курса. Глава может называться "Линейные пространства" или "Ортогональные системы функций"