Формулу можно записать, когда указана форма представления отрезков. В координатах или как. Понятно, что пересечение зависит от взаимного положения.
Вам надо читать нечто с названием "Вычислительная геометрия".
Например:
https://kpfu.ru/staff_files/F_246194882/Lection1.pdf