Что значит (log₅x^3)^2 Как это можно преобразовать?

Логарифм - это показатель степени, в которую нужно возвести данное основание (в вашем случае 5), чтобы получить данное число (в вашем случае x^3). Это одна из двух операций, обратная возведению в степень. Возведение в степень - нам даны основание и показатель, нужно найти результат. Первая обратная операция - извлечение корня: нам дан результат и показатель, нужно найти основание. Вторая обратная операция - логарифмирование: нам дан результат и основание, нужно найти показатель.

Прямо из свойств возведения в степень понятны некоторые свойства логарифма. При перемножении показатели складываются - поэтому логарифм произведения есть сумма логарифмов. При возведении степени в степень показатели перемножаются - поэтому показатель степени выносится за знак логарифма. У вас, например, log5 x^3 - это некоторое число t такое, что 5^t = x^3. Извлечём из обеих частей корень третьей степени (или, что то же самое, возведём обе части в степень 1/3) - получим, что 5^(t/3) = x, то есть log5 x = t/3, то есть 3 log5 x = log5 x^3.