Если спрашивать "за что сидел" не прилично, то прилично ли спрашивать "по какой статье отбывал срок"?

Если Вы не имеете никакого отношения к пенитенциарной системе, не из органов и не из жуликов, то это в принципе не Ваше дело. Разве ж по дружбе или знакомству Вам расскажут сами.
А если в системе, то и спросить не впадлу «За что чалился, брат? » или «Гражданин, судимости имеете? »
В местах изоляции спрашивают только статью, но никогда подробности и обстоятельства.