Существуют ли в 16ричной системе отрицательные числа?

Конечно! Они записываются также, как положительные, только со знаком минус, как и десятичные.
А вот если надо в компьютере записать отрицательное число, то это будет противоположное ему положительное в дополнительном коде.
Чтобы перевести число в доп код, надо его перевести в двоичное, проинвертировать и прибавить 1.
Потом перевести обратно в 16-ричное.
Например, нам надо написать число -1 в однобайтовом 16-ричном виде.
1 = 00000001, инверсия ~1 = 11111110, доп код ~1+1 = 11111111 = FF
-1 = FF, если число однобайтовое или FFFF, если двухбайтовое.