Библиотека ABS() нужна только для удаления знака если знак минус?

Это не библиотека, а функция.
Эта функция вычисляет расстояние от заданного числа до числа 0.
Поэтому для вещественных и целых чисел она, действительно, просто убирает знак минус.
Но для комплексных чисел эта функция извлекает квадратный корень из суммы квадратов вещественной и мнимых частой числа.

Если есть комплексное число
A = x + i *y
то
abs(A) = sqrt(x * x + y * y)

Конкретно, работу этой функции надо смотреть в конкретных языках программирования. В некоторых языках эта встроенная функция по умолчанию не работает с комплексными числами.