ИСТИНА

В настоящее время нейросетевые методы классификации находят широкое применение во многих сферах деятельности человека, однако часто возникает проблема доверия к результатам работы классификатора по реальным данным. Основным критерием успеха синтеза классификатора является минимизация ошибки на заданном наборе данных. Однако в 2014 году [1] были выявлены специфические ошибки классификации, подрывавшие доверие к надёжности работы нейросети за пределами обучающей выборки. Тогда же был введен термин «состязательный пример» (adversarial example) для таких входных данных, точки которых мало отличаются от точек обучающей выборки, однако дают неожиданный результат классификации. Анализ данной проблемы для одноклассового классификатора и предложение по объективной оценке его уязвимости к состязательным примерам на основе четырех показателей: Excess, Deficit, Coating, Approx (EDCA) был представлен в [2]. Эти показатели позволяют численно оценить, насколько фактическая область принятия решения классификатора соответствует целевой области, задаваемой обучающими данными. Для расчёта значений характеристик EDCA в [2] предлагается использовать дискретные приближения объемов областей в пространстве признаков, занимаемых обучающими данными, и данными, получающимися при работе обученного классификатора. Шаг разбиения пространства признаков на дискретные атомарные ячейки будет влиять на показатели качества. Слишком малый шаг приведет к росту вычислительной сложности расчёта EDCA и проблемам с областями разреженных данных. Большой шаг не даст точной оценки объёма и, следовательно, характеристик EDCA. Очевидно, что есть некоторый оптимальный размер шага дискретного разбиения, для которого показатели качества EDCA будут наиболее полезными и точными. Проведенные исследования на синтетически сгенерированных данных для нейросетевых одноклассовых классификаторов позволили выявить зависимость точности характеристик EDCA от шага дискретизации.