как, зная модули 2х векторов и модуль их суммы найти модуль их разности?

1) Вы в курсе, что |x| =(x,x)^1/2
Используйте ЭТО, решите
((a-b), (a-b))=256

найдете угол (a,b)
2) Далее, обратная задача
cм1
найдете
|a-b|