Опубликован: 22.04.2006 | Доступ: свободный | Студентов: 9354 / 1191 | Оценка: 4.27 / 3.83 | Длительность: 26:21:00
ISBN: 978-5-9556-0064-2
Лекция 5:

Задачи Data Mining. Классификация и кластеризация

< Лекция 4 || Лекция 5: 12345 || Лекция 6 >

Методы, применяемые для решения задач классификации

Для классификации используются различные методы. Основные из них:

  • классификация с помощью деревьев решений;
  • байесовская (наивная) классификация ;
  • классификация при помощи искусственных нейронных сетей;
  • классификация методом опорных векторов;
  • статистические методы, в частности, линейная регрессия;
  • классификация при помощи метода ближайшего соседа;
  • классификация CBR-методом;
  • классификация при помощи генетических алгоритмов.

Схематическое решение задачи классификации некоторыми методами (при помощи линейной регрессии, деревьев решений и нейронных сетей) приведены на рис. 5.4 - 5.6.

Решение задачи классификации методом линейной регрессии

Рис. 5.4. Решение задачи классификации методом линейной регрессии
if X > 5 then grey
	else if Y > 3 then orange
		else if X > 2 then grey
			else orange
Решение задачи классификации методом деревьев решений

Рис. 5.5. Решение задачи классификации методом деревьев решений
Решение задачи классификации методом нейронных сетей

Рис. 5.6. Решение задачи классификации методом нейронных сетей

Точность классификации: оценка уровня ошибок

Оценка точности классификации может проводиться при помощи кросс-проверки. Кросс-проверка (Cross-validation) - это процедура оценки точности классификации на данных из тестового множества, которое также называют кросс-проверочным множеством. Точность классификации тестового множества сравнивается с точностью классификации обучающего множества. Если классификация тестового множества дает приблизительно такие же результаты по точности, как и классификация обучающего множества, считается, что данная модель прошла кросс-проверку.

Разделение на обучающее и тестовое множества осуществляется путем деления выборки в определенной пропорции, например обучающее множество - две трети данных и тестовое - одна треть данных. Этот способ следует использовать для выборок с большим количеством примеров. Если же выборка имеет малые объемы, рекомендуется применять специальные методы, при использовании которых обучающая и тестовая выборки могут частично пересекаться.

< Лекция 4 || Лекция 5: 12345 || Лекция 6 >
Светлана Лазарева
Светлана Лазарева

При текущей загрузке на смогу ежедневно уделять изучению курса указанное в темах время. Возможно ли изучение в персональном темпе? Есть ли ограничения на сроки? 

Дмитрий Прочухан
Дмитрий Прочухан

Можно ли пересдать экзамен ?
 

Андрей Ялаев
Андрей Ялаев
Россия, г. Нижневартовск
Юрий Сысков
Юрий Сысков
Россия, Снежинск, СГФТА, 2005