Почему у самой маленькой планеты солнечной системы...

Планеты Солнечной системы имеют следующие плотности по отношению к воде: Меркурий - 5.4; Венера - 5.3; Земля - 5.5; Марс - 3.9; Юпитер - 1.3; Сатурн - 0.7; Уран - 1.2; Нептун - 1.56; Плутон - 0.8. Так что ваше утверждение о максимальной плотности Меркурия неверно, Земля будет поплотнее. А причина того, почему все планеты земной группы (Меркурий, Венера, Земля, Марс) в несколько раз больше плотности внешних планет-гигантов (Юпитер, Сатурн, Уран, Нептун, Плутон), объясняется следующим.
Наша Солнечная система сформировалась из газо-пылевой туманности. В самом начале вокруг только что возникшего Солнца вращались газ и космическая пыль. Как доказал еще в начале 20го века русский ученый Лебедев, свет может оказывать давление на материальные предметы. В земных условиях это давление настолько невелико по сравнению с другими силами, что никак не сказывается на практике. В космосе ситуация иная. Под действием давления солнечного света газ постепенно оттеснялся к периферии системы, а более тяжелые пылевые частицы оставались в основном на месте. Так происходила постепенная дифференциация первоначально однородного газо-пылевого облака на тяжелую пылевую часть ближе к Солнцу и сравнительно легкую газовую часть вдали от него. И когда пришло время формироваться планетам, те из них, что были ближе к Солнцу, получились тяжелыми, а отдаленные планеты получились более легкими (в смысле плотности, естественно, а не по массе).