почему частицы размером менее 0,3 мкм в оптическом микроскопе не видны?

Потому, что свет их огибает и не "замечает", нужны более мелкие частицы, например, электроны

По размерам эти частици сравнимы с длиной световой волны, поэтому волны их огибают и не отражаются (поглощаются) от них.

Потому что свет при отражении от исследуемого материала при такой маленькой разности между лучами воспринимается глазом как единая точка. Ну и плюс еще всякие искажения по ходу луча через линзы микроскопа и глаза.