ИСТИНА |
Войти в систему Регистрация |
|
ИСТИНА ИНХС РАН |
||
Рассматривается задача оценивания энтропии в схеме с независимыми одинаково распределенными испытаниями, имеющими полиномиальное распределение. Известные методы решения этой задачи можно условно разбить на два широких класса: «подстановочные» и «спэйсинговые». Первые сводятся к следующему: делается оценка вероятностей, входящих в выражение для энтропии, после чего происходит подстановка этих оценок вместо вероятностей. Спэйсинговые методы, возникшие из идей статьи Добрушина, характеризуются тем, что в них рассматривается «расстояние» между повторениями некоторого исхода в последовательности испытаний. Мы же рассмотрим подход к оцениванию энтропии, связанный с теоремой Шеннона--Макмиллана. В докладе будут представлены некоторые свойства данной оценки энтропии.