Machine Learning: Как да се справим с отличителни стойности (outliers)?

Автор: Десислава Христова

Има случаи, когато в извадката може да попаднат стойности, които значително се различават от останалите. Те се наричат отличителни или екстремни и могат да бъдат необичайно високи или ниски.

Присъствието на отличителни стойности в извадката може да се отрази негативно върху работата на моделите за машинно обучение и затова е необходимо те да се обработват по подходящ начин. В противен случай, получените резултати от модела за машинно обучение могат да бъдат доста подвеждащи.

Върху кои алгоритми оказват влияние?

  • линейни модели (например регресионни и дискриминантен анализ)
  • SVM
  • Adaboost

Много алгоритми са чувствителни, ако при входните данни има екстремни стойности. Някои от тях очакват променливите да имат точно определено разпределение и стойностите да са в съответен интервал. Ако тези критерии не са изпълнени, тогава точността на получените резултати от моделите може да не е толкова висока.

В тази статия ще ви покажа някои основни методи за откриване на отличителни стойности в извадката, както и по какви начини могат те да бъдат обработени чрез Python.

За примерите, които ще видите по-надолу в статията, е използвана една малка извадка, съдържаща 163 записа, с данни за възрастта и годишния доход на клиенти. Можете да я изтеглите от тук.

Първите 5 реда изглеждат по следния начин:

 AgeYearlyIncome
05090000
15160000
25160000
34970000
44880000

Как да открием отличителни стойности? Основни методи

  • Диаграма тип "кутия" (Box plot)

Отличителните стойности са всички, които са извън следните граници:

- Lower Limit = Q1 + IQR * 1.5

- Upper Limit = Q3 + IQR * 1.5

Възможно е също интерквартилният размах да се умножи по 3 вместо 1.5, за откриване на още по-високи и по-ниски стойности.

На изображението се забелязва, че извадката съдържа стойности, които са необичайно високи. При YearlyIncome това са стойности, които са над 160 000, а при Age са над 83. Медианата на годишния доход е 70000, а на възрастта е 57.

  • Z-score

Z-score представлява число, което показва колко се отдалечава дадена точка от средната, измерено в стандартни отклонения.

При нормално разпределение, в интервала от -3 до 3 стандартни отклонения попадат 99.7% от данните. Всичко, което е извън този интервал, може да се определи като отличителна стойност, т.е. това e всяка стойност, която е по-ниска или по-висока от средната +– 3 пъти стандартното отклонение.

Разбира се методите не се изчерпват до тук, тъй като анализът и откриването на отличителни стойности е много обширна област. Освен тези два метода могат да се използват например и линейни модели (линейна регресия, метод на главните компоненти и др.). Също така диаграмите тип "кутия" не са единствените визуализации, които дават информация дали има отличителни стойности в извадката. За тази цел можем да използваме и хистограми, диаграми на разсейването и Q-Q графики например.

Кои са начините да се справим с тях?

Премахване на редове

Макар че този метод е доста бърз, предприемането му си има своите рискове. Отличителните стойности е възможно да съдържат важна информация или ако те са много, това може да доведе до премахване на голяма част от извадката.

Диаграмите тип "кутия" след премахване на отличителните стойности изглеждат по следния начин:

От визуализацията става ясно, че медианата на характеристиката YearlyIncome е 70000, а на Age е 55, т.е. премахването на редовете е довело до незначителна разлика в медианата на променливата Age.

Третиране като липсващи стойности

Отличителните стойности могат да бъдат възприети като липсващи стойности и да бъдат обработени като такива. В нашия случай ще ги заместим с медианите на съответните променливи.

Диаграмите тип "кутия" след заместване на отличителните стойности с медиана изглеждат по следния начин:

При този пример медианата на YearlyIncome отново остава непроменена - 70000, а на Age е 58. Отново обработката на отличителните стойности е довела до незначителна разлика в медианата на променливата Age.

Ако искате да научите за други методи, чрез които да обработвате липсващи стойности, можете да прочетете в статията Machine Learning: Как да обработим липсващи стойности при подготовката на данни за анализ?

Дискретизация

Дискретизацията е процес на трансформация на непрекъснати променливи в дискретни, като стойностите се разпределят в определен брой интервали (bins).

Резултат:

 AgeYearlyIncomeAge_disc_labelsAge_discYearlyIncome_disc_labelsYearlyIncome_disc
1425280000Bin_1(36.999, 58.0]Bin_2(50000.0, 90000.0]
12259110000Bin_2(58.0, 79.0]Bin_3(90000.0, 130000.0]
804990000Bin_1(36.999, 58.0]Bin_2(50000.0, 90000.0]
336920000Bin_2(58.0, 79.0]Bin_1(9999.999, 50000.0]
1939210000Bin_1(36.999, 58.0]Bin_5(170000.0, 210000.0]
545970000Bin_2(58.0, 79.0]Bin_2(50000.0, 90000.0]
5050130000Bin_1(36.999, 58.0]Bin_3(90000.0, 130000.0]
937270000Bin_2(58.0, 79.0]Bin_2(50000.0, 90000.0]
14852130000Bin_1(36.999, 58.0]Bin_3(90000.0, 130000.0]
456630000Bin_2(58.0, 79.0]Bin_1(9999.999, 50000.0]

Дискретизацията е начин, чрез който можем да се справим с отличителните стойности, като те се поставят в най-ниския и най-високия интервал. В нашия пример те са сложени в Bin_5. Така тези стойности не се различават от останалите. След извършване на дискретизация тези променливи трябва да бъдат третирани като категорийни.

Поставяне на горен и долен праг и заместване с минимална и максимална допустима стойност

Този метод позволява обработка на отличителните стойности без да се премахват записи от извадката, но може да изкриви разпределението и връзката между отделните променливи.

Диаграмите тип "кутия" след прилагане на метода:

При този пример не се забелязва промяна в медианите и на двете променливи след прилагане на метода. Остават стойностите 70000 при YearlyIncome и 57 при Age.

Каква е ползата от обработката на отличителни стойности?

Идентификацията и обработката на отличителни стойности от извадката е ключов момент при изграждане на модели за машинно обучение. Такива стойности могат да създадат проблеми при работата на алгоритмите, като изкривят получените от тях резултати. Обработката на отличителни стойности по подходящ начин позволява получаването на по-високи стойности на метриките за оценка на работата на моделите, което води и до по-добро цялостно представяне на самия модел.

Искате да научите повече за машинното обучение?

Включете се в курса по машинно обучение и анализ на данни с Python.

© Copyright 2019 DeviseExpert Всички права запазени
envelopephone-handsetmap-marker linkedin facebook pinterest youtube rss twitter instagram facebook-blank rss-blank linkedin-blank pinterest youtube twitter instagram