по какой формуле можно найти силу удара?

По второму закону Ньютона, сила равна скорости изменения импульса. При отскоке импульс изменился на 2*m*v, поскольку сохранил величину, но изменил направление на противоположное. Скорость этого изменения равна изменению величины импульса, делённому на время, за которое это изменение произошло. Скорость шарика, упавшего с высоты Н равна корню из 2*g*H. Т. о. , Ваша сила равна

F = 2*m*v / dt = 2*m*sqrt{ 2*g*H } / dt

где sqrt обозначает корень квадратный, dt -- заданное в задаче время