Как узнать размер памяти видеокарты?

Найди в интернете просто, пишешь название и читаешь характеристики

GPUz
если не встройка, то увеличить невозможно

GPU-Z, а увеличить, только купив новую с большим объемом памяти.

Ну чисто гипотетически, если на борде есть разъемы для памяти и подключена обвязка, и есть навыки в кодировании прошивки, можно попробовать, но еще нужно учитывать что бы сам камень поддерживал дополнительные шины памяти и объем.
А так задача нетривиальная. для обычного пользователя, да и даже рядового инженера, проще говоря непосильная.
Однако видел ролики, где увеличивали банки - но это скорее ради эксперимента/контента делалось.

команда dxdiag. Вкладка "Экран". А для увеличения надо припаять нужное количество модулей памяти на видеокарту и перепрошить биос видеокарты, чтобы он увидел эту память.