Какой воспользоваться формулой для расчета пробивного напряжения ???

Так, по-порядку.
1. Пробой любого вещества происходит при достижении определенной напряженности электрического поля [кВ/см]. Это значение еще называют электрической прочностью материала.

Например, у воздуха при атмосферном давлении она 33кВ/см. То есть при расстоянии между электродами 1см напряжение пробоя составит около 33кВ (это факт). При уменьшении расстояния в 2 раза - напряжение так же снизится в 2 раза.

2. Но эта зависимость не всегда линейная. Она описывается законом Пашена. Согласно этому закону напряжение пробоя зависит от произведения p*d - давления газа на расстояние между электродами. Если взглянешь на кривую Пашена, то заметишь, что при маленьком расстоянии (или давлении) закон перестает быть линейным и напряжение пробоя наоборот - начинает расти.

3. Фактически пробой так же зависит от формы электродов. Так, на острых электродах (твои гвозди) можно получить напряжение пробоя несколько меньше, чем по закону Пашена (плоские электроды).

4. Да, напряжение пробоя зависит от диэлектрической проницаемости вещества. Но нельзя однозначно сказать, что если у двух веществ в 2 раза отличается проницаемость, то и напряжение пробоя будет отличаться в 2 раза. Это возможно только у веществ со схожей решеткой. Если будешь сравнивать газ и, например, твердое тело - такого точно не будет.
Вот тут почитай
https://cyberleninka.ru/article/v/elektricheskaya-prochnost-dielektrikov-i-ih-dielektricheskaya-pronitsaemost
5. В твоем случае можно:
а) Использовать известные значения электрической прочности материалов. гугл в помощь - при известном расстоянии найдешь напряжение пробоя. (для газов гугли кривые Пашена)
б) Проводить эксперимент для каждого интересующего вещества. Получил напряжение пробоя при одном расстоянии - можешь с уверенностью сказать, что при изменении этого расстояния напряжение пробоя изменится пропорционально.