Возможно ли оценить вероятность правильности теории вероятности?

Теория вероятности - аксиоматическая теория. Это значит, что она выводится из небольшого числа аксиом которые принимаются без доказательства. Наиболее распространенная система аксиом Колмогорова. При применении любой аксиоматической теории к реальному кругу явлений если выполнены аксиомы (для реальных объектов и отношений которые мы ставим в соответствие объектам и отношениям системы аксиом) то выполняются и все выводы, т. е. теоремы (при условии непротиворечивости теории) .
Поэтому вопрос о правильности теории вообще ставить нельзя (тем более о вероятности правильности) . Неизвестно какой смысл в это вкладывать.

Можно ставить вопрос о непротиворечивости системы аксиом. В случае теории вероятности "относительную" непротиворечивость можно доказать, т. е. свести вопрос о непротиворечивости теории вероятностей например к вопросу о непротиворечивости теории множеств (не встречал доказательств, но по-моему это несложно) . Непротиворечивость же теории множеств (как наиболее общей математической теории) доказать нельзя с помощью самой же теории множеств (а других, более общих теорий и нет) . Это содержание кажется второй теоремы Геделя. Это относится к математической логике. Короче говоря мы можем быть уверены в непротиворечивости теории вероятностей настолько насколько мы уверены в теории множеств. В последней противоречий пока не найдено (еслит исходить из аксиоматического построения например системы аксиом Цермело-Френеля) . Т. е. можно считать теорию вероятностей непротиворечивой.

Но вышеуказанное касается самой теории. Кроме того, можно ставить вопрос о применимости теории вероятностей к описанию конкретного круга явлений а также о правильности оценки конкретных вероятностей событий (тех которые применяются в качестве исходных в конкретной задаче) . В вопросе о применимости нужно четко определить какие именно реальные объекты мы понимаем под объектами входящими в аксиомы, в частности что такое вероятность. Если считать, что вероятность это "степень уверенности в наступлении некоторого события", то утверждение о применимости строго говоря проверить нельзя так как "степень уверенности" очень расплывчатое понятие. Обычно поступают очень хитро и вероятностью называют некоторое число к которому стремится относительная частота при бесконечном числе испытаний (это так называемое статистическое определение вероятности) , но при этом требуют чтобы такое число существовало (это называется требованием статистической устойчивости) . Конечно это в каком-то смысле уход от вопроса так как нельзя провести бесконечное число испытаний. Обычно проводят достаточно большое число испытаний и если наблюдается устойчивость, то считают что вероятность события существует и относительную частоту принимают за вероятность. Короче вопрос о применимости можно решить только експериментально. Притом теория вероятности применима не к любым явления и тому есть много примеров (много событий не проявляют стат. устойчивости т. е. относительная частота имеет большой разброс и он не уменьшается с увеличением числа испытаний, обычно такие явления связаны с наличием так называемого "человеческого фактора").

Кроме того, можно ставить вопрос о правильности оценки самих значений вероятности. Чаще всего вероятность как я уже говорил, оценивают по относительной частоте. Оценить точность и достоверность оценок можно например исходя из теоремы Бернулли, неравенства и теоремы Чебышыва, Хинчина и др. Можно сделать и более точные оценки если предполагать наличие некоторых дополнительных условий например определенного закона распределения. Чаще всего считают что величины распределены по нормальному закону. Тогда можно применять формулы Муавра-Лапласса, Пуассона и др. Нормальный закон встречается очень часто поэтому зачастую такое допущение "разумно", но конечно можно и ошибаться.