В чем разница: to leave и to forget,

Leave - забыть в физическом плане, то есть оставить в неком месте
Forget - забыть в ментальном смысле, поскольку это глагол умственного восприятия и мышления.

Не забудь учебник дома. - Don't leave the textbook at home.

Не забудьте взять кники. - Don't forget to take the books.

Он забыл зонтик дома. - He left his umbrella at home.

Он забыл её имя / позвонить т. п. - He forgot her name / to call.