Подскажите, пожалуйста, как решить задачу по математике

Как решить? Устно же.
Найти тангенс угла и домножить на косинус.

Проще векторно: угол АОВ (или угол О) это угол между векторами ОА и ОВ. Введём систему координат с началом в точке О. Тогда координаты векторов ОА и ОВ равны координатам вершин А и В соответственно: ОА {10;5} а ОВ {3;9}. sin∠AOB=√(1-cos²∠AOB)=√(1-((ОА∙ОВ)/(|ОА|×|ОВ|))²)=√(1-((ОАх×ОВх+ОАу×ОВу)/(√(ОАх²+ОАу²)×√(ОВх²+ОВу²))²)=√(1-((10×3+5×9)/(√(10²+5²)×√(3²+9²))²)=1/√2. Иксы и игреки в индексе

Все гораздо проще.Тр-к прямоугольный и равнобедренный (катеты равны по три "двухклеточные" диагонали).
Поэтому sin АОВ = sin 45° = √2/2 = 0,707 (приблизительно)