Должен ли программист разбираться в компьютерном железе?

Это зависит от специализации программиста. Если он embedded разработчик или пишет драйвера, то просто обязан разбираться, не в ассортименте готовых плат, а уметь читать схемы и даташиты на чипы. А если он прикладной программист, то это не нужно. Впрочем, в ассортименте компьютерного железа любой программист разбираться не обязан. Но, например, для низкоуровневой оптимизации, должен знать в каком процессоре какие есть команды.