Когда при исследовании функции на монотонность на графике ставятся закрашенные или выколотые точки?

Что это значит? Если значение аргумента входит в область определения, то точка закрашенная, если нет - выколотая. При исследовании функции на монотонность вам достаточно найти её производную.