mp3, aac, ogg - какой формат лучше и почему?

каждый по своему разный, в общем нельзя сказать.

смотря что есть "лучше". Этот вопрос сродни вопросу "что есть счастье?"

По качеству - который без сжатия, или сжатие без потерь.

читай по ссылке, там все написано об аудио форматах:
http://bezwindowsa.ru/programmy/audio-formatyi-vidyi-i-ih-opisanie.html

mp3
Он более распространённый

FLAC самый качественный звук т. к. без сжатия.
В формате MP3 используется алгоритм сжатия с потерями, разработанный для существенного уменьшения размера данных, необходимых для воспроизведения записи и обеспечения качества воспроизведения звука,
Ogg является всего лишь контейнером. Звук или видео сжимаются кодеками, а результат обработки хранится в подобных контейнерах. Контейнеры Ogg могут хранить потоки, закодированные несколькими кодеками. Например, файл с видео и звуком может содержать данные, закодированные аудио- и видеокодеками.
Vorbis — свободный формат сжатия звука с потерями. По функциональности и качеству аналогичен таким кодекам, как AAC, AC3 и VQF, превосходящим MP3. Для хранения аудиоданных в формате Vorbis чаще всего применяется медиаконтейнер Ogg,
Advanced Audio Coding (AAC) — проприетарный (патентованный) формат аудиофайла с потерями.
AAC (Advanced Audio Coding) изначально создавался как преемник MP3 с улучшенным качеством кодирования.
По сути все разработанные после MP3 форматы пытаются улучшить или обойти (цене, качестве) данный формат. MP3 с битрейтом 320 кбит/c практически не различить на слух от 256 кбит/с, а человеку с обычным слухом даже 128 хватит. Сейчас размер почти не имеет значение и MP3 c 320 простому человеку не отличить от FLAC, а размер у них отличается очень сильно. MP3 играет практически любой плеер, от копеечного до золотого.

mp3