Срочно! Помогите с заданием по математике!

Какой здесь ответ и почему

Заранее благодарю!