что такое выпуклый многоугольник и невыпукоый многоугольник

выпуклый многоугольник - называется выпуклым, если он лежит по одну сторону от каждой прямой, проходящей через две его соседние вершины
пример: параллелограмм, квадрат, треугольник и т. д

не выпуклый лежит по разные стороны от каждой прямой, проходящей через две его соседние вершины
пример: что-то на подобе 2 треугольников, соединённых вершинами

Выпуклым многоугольником называется многоугольник, обладающий тем свойством, что все его точки лежат по одну сторону от любой прямой, проходящей через две его соседние вершины. Если же это правило не выполняется, т. е при проведении прямой через какие-либо соседние вершины стороны многоугольника окажутся по обе стороны от неё, то этот многоугольник невыпуклый

Это можно понять по такому принципу:
В выпуклом многоугольнике каждый (любой) внутренний угол меньше 180 градусов
И он весь лежит по одну сторону от любой прямой, проведённой через две соседние врешины: