зачем нужен большой твердый знак? с него ведь слова не начинаются...

Это наследство от старославянского языка, равно как и мягкий знак. Твердый обозначал такие гласные как О, У, мягкий - Е, но в старослав. яз. они произносились не как сейчас, а на половину короче и быстрее, так называемые краткие гласные. В результате фонетических процессов на конце слова эти гласные отпали. В середине слова - постепенно вытеснялись привычными нам, т. к. краткие гласные исчезли.
Пример: ТЪРГЪ (торг, площадь) .
Да, и не было раньше разделения на регистры: все писалось "заглавными" буквами.