Опубликован: 22.04.2006 | Доступ: свободный | Студентов: 9256 / 1184 | Оценка: 4.27 / 3.83 | Длительность: 26:21:00
ISBN: 978-5-9556-0064-2
Лекция 10:

Методы классификации и прогнозирования. Метод опорных векторов. Метод "ближайшего соседа". Байесовская классификация

< Лекция 9 || Лекция 10: 12345 || Лекция 11 >
Аннотация: Описаны основные идеи метода опорных векторов, метода "ближайшего соседа" и байесовской классификации. Рассмотрены преимущества и недостатки этих методов.

В предыдущих лекциях мы рассмотрели такие методы классификации и прогнозирования как линейная регрессия и деревья решений; в этой лекции мы продолжим знакомство с методами этой группы и рассмотрим следующие из них: метод опорных векторов, метод ближайшего соседа (метод рассуждений на основе прецедентов ) и байесовскую классификацию.

Метод опорных векторов

Метод опорных векторов (Support Vector Machine - SVM) относится к группе граничных методов. Она определяет классы при помощи границ областей.

При помощи данного метода решаются задачи бинарной классификации.

В основе метода лежит понятие плоскостей решений.

Плоскость (plane) решения разделяет объекты с разной классовой принадлежностью.

На рис.10.1 приведен пример, в котором участвуют объекты двух типов. Разделяющая линия задает границу, справа от которой - все объекты типа brown (коричневый), а слева - типа yellow (желтый). Новый объект, попадающий направо, классифицируется как объект класса brown или - как объект класса yellow, если он расположился по левую сторону от разделяющей прямой. В этом случае каждый объект характеризуется двумя измерениями.

Разделение классов прямой линией

Рис. 10.1. Разделение классов прямой линией

Цель метода опорных векторов - найти плоскость, разделяющую два множества объектов; такая плоскость показана на рис. 10.2. На этом рисунке множество образцов поделено на два класса: желтые объекты принадлежат классу А, коричневые - классу В.

К определению опорных векторов

Рис. 10.2. К определению опорных векторов

Метод отыскивает образцы, находящиеся на границах между двумя классами, т.е. опорные вектора ; они изображены на рис. 10.3.

Опорные векторы

Рис. 10.3. Опорные векторы

Опорными векторами называются объекты множества, лежащие на границах областей.

Классификация считается хорошей, если область между границами пуста.

На рис. 10.3.показано пять векторов, которые являются опорными для данного множества.

< Лекция 9 || Лекция 10: 12345 || Лекция 11 >
Светлана Лазарева
Светлана Лазарева

При текущей загрузке на смогу ежедневно уделять изучению курса указанное в темах время. Возможно ли изучение в персональном темпе? Есть ли ограничения на сроки? 

Дмитрий Прочухан
Дмитрий Прочухан

Можно ли пересдать экзамен ?
 

Игорь Хан
Игорь Хан
Узбекистан, Ташкент, Ташкентский педагогический институт иностранных языков, 1990
Михаил Дорошенко
Михаил Дорошенко
Россия