вот у тебя точка А (0;0) и В (х2;у2)
расстояние между ними определяется по формуле
А алгоритм... я сразу на паскале, можно) )
program dlina;
var
x1,y1,x2,y2,l1,l2:real;
begin
writeln('Введите A(x,y)');
readln(x1);
readln(y1);
writeln('Введите B(x,y)');
readln(x2);
readln(y2);
l1:=sqrt((x1*x1)+(y1*y1));
l2:=sqrt((x2*x2)+(y2*y2));
if l1>l2 then
writeln('точка A ближе')
else
writeln('точка A ближе')
end.