чувааак компания с тысячным штабом над игрой пеклась практически десять лет, и то - на выходе получилось жиденькое и багованное. а ты в соло хочешь написать движок и сделать игру, вот серьезно?
Допустим ты будешь делать под Windows на MASMе. Тебе мало того, что надо изучить сам ассемблер, так ещё и знать как создавать окна, рисовать интерфейс, рисовать фигуры и т.п. А для 3D движка вообще надо знать как там всё работает и умудрится не сделать ошибку пока пишешь код, ведь найти её будет сложно.