Сочинение на тему Ограничения классификации ближайших соседей

K-Nearest Neighbor (KNN) – один из самых популярных алгоритмов распознавания образов. Многие исследователи обнаружили, что алгоритм KNN обеспечивает очень хорошую производительность в своих экспериментах на разных наборах данных. Традиционный алгоритм классификации KNN имеет три ограничения: (i) сложность расчета из-за использования всех обучающих выборок для классификации, (ii) производительность зависит исключительно от обучающего набора и выбора k.

Поиск ближайших соседей – один из самых популярных методов обучения и классификации, предложенных Фиксом и Ходжесом, который оказался простым и мощным алгоритмом распознавания. Ковер и Харт показали, что правило принятия решений работает хорошо, учитывая, что нет явных знаний о данных. Простое обобщение этого метода называется правилом K-NN, в котором новый шаблон классифицируется в классе с наибольшим числом членов среди K ближайших соседей.

Традиционная классификация текста KNN имеет три ограничения:

 
1. Высокая сложность вычислений. Чтобы определить k ближайших соседних выборок, все сходства между обучающими выборками меньше, классификатор KNN больше не является оптимальным, но если обучающий набор содержит огромное количество выборок, классификатор KNN нужно больше времени для вычисления сходства. Эта проблема может быть решена тремя способами: уменьшение размеров пространства объектов; использование меньших наборов данных; используя улучшенный алгоритм, который может ускоряться до;