После конвертации видео в Xvid появились квадраты. Почему?

Первое окно - Profile @ Level.
Здесь сделаны стандартные предустановки, которые должны быть совместимы с аппаратными проигрывателями. Если вы пытаетесь сжать готовый фильм, то для него потребуется своё разрешение и битрейт.
При кодировании в два прохода происходит повышение качества кодируемого материала.

Опция "Quantization type" даёт возможность выбора типа матрицы квантизеров. H.263" - это стандартная матрица квантизеров для Mpeg4. Это даёт менее чёткую картинку, чем MPEG матрица и рекомендуется делать для битрейтов ниже 900 kBit/s. Вторым пунктом стоит "MPEG". Этот выбор даст более чёткую картинку и соответственно, требует битрейтов больших, чем 900 kBit/s. "MPEG-Custom" даёт возможность задавать самому матрицу квантизеров. Я бы не стал пробовать это делать вручную.

Опция "Adaptive Quantization" включает возможность маскировки ярких и тёмных мест при сжатии. Эта опция нужна для того, что бы увеличить коэффициент сжатия исходного материала. На практике, при включении этой опции происходят искажения.

Опция "Interlaced Encoding" включает работу кодека с чересстрочным видео. Я её практически не применяю.

Опция "Quarter Pixel" включает разрешение с точностью до четверти пикселя. Это повышает чёткость особенно на низких разрешениях, но вместе с этим, добавляет шум на изображение.

Опция "Global Motion Compensation" предназначена для компенсации движения. Она начинает функционировать, когда идёт панорамирование, наезд или отъезд на объект, а так же при вращении. Задумка конечно хорошая, но использовать я так же не рекомендовал бы.

Далее: включение B-frames (BVOPs) повышает качество.

Опция "Quantizer ratio " означает, во сколько раз будет повышен квантизер для B-frames. По-русски, степень потери детализации изображения. Минимально возможный квантизер - 2.

Если у вас достаточно мощный процессор, нет никакого смысла включать опцию. Packed bitstream

Discrad first pass" если убрать галочку с этого пункта, то во время первого прохода будет не только производится сбор статистики, так же будет производится сохранение сжатого материала. Если вы используете двух проходный режим, то нет никакого смысла это делать.

Full quality first pass - Первый проход полного качества. Никакого улучшения качества при двух проходном режиме это не дает.

При нажатии кнопки Quality preset – User defined – more/ Откроется новое окно.
"Motion search precision" прямой перевод - точность поиска движения. Чем выше этот параметр, тем более качественно будут выглядеть движения. Авторы рекомендуют ставить не менее 5, в идеале 6. Но учтите, чем выше этот параметр, тем медленнее будет работать кодек.
"VHQ mode" - эта функция позволяет оптимизировать режим макроблоков, вместо усреднения. Чем выше это значение, тем медленнее будет работать кодек. Качество вместе с этим повышается значительно (не сравнить с использованием B-frames). Нельзя использовать совместно VHQ mode и GMC (Global Motion Compensation).
"Use chroma motion" - эта функция включает поиск движения по цветовой информации. Этот способ на много более точен, чем стандартный способ. Включение этого метода замедляет работу кодера. "Turbo" - не включайте. "Frame drop ratito" - количество пропускаемых кадров - оставьте 0 Maximum I-frame interval" - поставьте 50

Важная функция функция “Encoder”. При сжатии, в заголовке AVI файла прописывается метка, каким кодеком это было сжато. При воспроизведении проигрыватель считывает эту метку и запускает соответствующий декодер. Для Mpeg4 совместимых кодеков возможна замена декодера. Так, сжимать виде мне больше нравится при помощи кодера Xvid, а просматривать при помощи декодера DivX (этот декодер имеет меньше проблем с разными проигрывателями и картинка после него имеет меньше артефактов) . Для того, что бы изменить метку, нужно сделать выбор в выпадающем меню.
Вот собственно и всё. Если вам надо, то могу вам переслать на почту ВСЕ НАСТРОЙКИ КОДЕКА.