Bayes Theorem : Теорема Байеса (или Бейеса, кого как учили
БСЭ говорит:"Бейеса теорема (в теории вероятностей), одна из основных теорем элементарной теории вероятностей. Названа по имени установившего её английского математика Т. Бейеса (Th. Bayes, 18 в.).
Пусть A1, A2,..., An — некоторые попарно несовместимые события, хотя бы одно из которых обязательно наступает, и В — некоторое событие. Тогда, согласно Б. т., условная вероятность Ак при условии, что наступило В, может быть определена по формуле
В применениях Б. т. события Ак называют обычно «гипотезами», вероятности Р (Ак) — априорными вероятностями гипотез и вероятности Р (Ак|В) — апостериорными вероятностями этих гипотез (при условии, что фактически наблюдено событие В). Б. т. долгое время рассматривали как основу для статистических выводов из результатов наблюдений. Однако в применениях, как правило, отсутствуют достаточно обоснованные данные об априорных вероятностях гипотез. В силу этого Б. т. потеряла своё значение."
Но Paul Graham недавно нашел это "потерянное значение" — причем применительно к очень насущной ныне задаче борьбы со спамом Идея овладела умами масс за считанные месяцы, и сейчас байесовы классификаторы почты распространены достаточно широко. Наиболее известные программы этого типа — PopFile и BogoFilter — сортируют почту с использованием этой теоремы. См. также http://old.computerra.ru/online/jack/12150/
Еще один статистический метод, используемый при классификации почты — "Хи-квадрат" распределение
О теореме Байеса см. также Лекцию
Нейробайесовский подход к задачам машинного обучения. Лекция Дмитрия Ветрова в Яндексе