Почему при определении периода колебаний амплитуда колебаний должна быть небольшой?

Она, на самом деле, никому ничего не должна :)))

Просто дело в том, что уравнение для гармонических колебаний (когда речь идёт не просто о математической абстракции, а о чём-то реальном) - приближение: sin(x)=x, для небольших значений х.
Так что если амплитуда большая, то решение по школьным формулам будет уже не верным, а правильно решить - сложновато.

апдейт. То, что написал выше - про маятник. Если же речь идёт о массе на пружине, то, при большом растяжении, она уже не будет так хорошо себя вести, как при малых и закон F=kx уже не будет работать. Т. е. колебания уже не будут гармоническими.