Судя по количеству переменных и сложности прогнозирования и расчёта таких формул нет. Вязкость, форма, наличие пластификаторов, амплитуда и скорость вибраций, пространственное положение вибратора... Проще и дешевле время от времени измерять плотность смеси в конкретных условиях и ориентироваться по этим данным. Один фиг точнее способа не придумать. А если примерно, то можно ориентироваться по таблицам типа такой
http://www.komplektacya.ru/ref_mat/vo/vibrouplotnenie.htm