Кероване навчання

Керо́ване навча́ння, контрольо́ване навча́ння, навча́ння під на́глядом, або навча́ння з учи́телем (англ. supervised learning, SL) — це парадигма машинного навчання, в якій модель тренують об'єкти входу (наприклад, вектор змінних-передбачувачів) та бажане значення виходу (також відоме як мічений людиною керівний сигнал, англ. supervisory signal). Ці тренувальні дані обробляються, будуючи функцію, яка відображує нові дані на очікувані значення виходу. Оптимальний сценарій дозволятиме алгоритмові правильно визначати значення виходу для небачених примірників. Це вимагає, щоб алгоритм навчання узагальнювався з тренувальних даних на небачені ситуації «розумним» чином (див. індуктивне упередження). Цю статистичну якість алгоритму вимірюють через так звану похибку узагальнення.

Схильність завдань використовувати керовані та некеровані методи. Перетин кіл назвами завдань навмисний. Він показує, що класичне відокремлення творчих завдань (ліворуч) із застосуванням некерованих методів у сучасних схемах навчання розмите.

Кроки для виконання

Щоби розв'язати задану задачу керованого навчання, слід виконати наступні кроки:

1. Визначити тип тренувальних прикладів. Перш ніж робити щось інше, користувач повинен вирішити, який тип даних використовувати як тренувальний набір. У випадку аналізу рукописного тексту, наприклад, це може бути один рукописний символ, ціле рукописне слово, ціле речення рукописного тексту або, можливо, повний абзац рукописного тексту.
2. Зібрати тренувальний набір (англ. training set). Він повинен бути репрезентативним для реального використання функції. Таким чином, збирають набір об'єктів входу, а також збирають відповідні дані виходу, або від людей-експертів, або з вимірювань.
3. Визначити подання ознак (англ. features) входу навчаної функції. Точність навченої функції сильно залежить від того, як подано об'єкт входу. Як правило, вхідний об'єкт перетворюють на вектор ознак, що містить низку ознак, які описують об'єкт. Кількість ознак не повинна бути занадто великою через прокляття розмірності; але повинна містити достатньо інформації для точного передбачування виходу.
4. Визначити структуру навчаної функції та відповідний алгоритм навчання. Наприклад, інженер може обрати використання опорновекторних машин чи дерев рішень.
5. Завершити розробку. Виконати алгоритм навчання на зібраному тренувальному наборі. Деякі алгоритми керованого навчання вимагають від користувача визначення певних керівних параметрів. Ці параметри можна налаштувати, оптимізуючи продуктивність на підмножині тренувального набору (званій затверджувальним набором, англ. validation set), або за допомогою перехресного затверджування (англ. cross-validation).
6. Оцінити точність навченої функції. Після налаштування параметрів та навчання продуктивність отриманої в результаті функції повинно бути виміряно на випробувальному наборі (англ. test set), окремому від тренувального.

Вибір алгоритму

Доступний широкий спектр алгоритмів керованого навчання, кожен із яких має свої сильні та слабкі сторони. Єдиного алгоритму навчання, який працює найкраще з усіма задачами керованого навчання, не існує (див. теорему про неіснування безкоштовних обідів).

У керованім навчанні слід враховувати чотири основні питання:

Компроміс зміщення та дисперсії

Перше питання це компроміс між зміщенням (англ. bias) та дисперсією (англ. variance). Уявімо, що ми маємо кілька різних, але однаково добрих тренувальних наборів даних. Алгоритм навчання зміщений для певного входу $x$, якщо при тренуванні на кожному з цих наборів він систематично неправильний у передбачуванні правильного виходу для $x$. Алгоритм навчання має велику дисперсію для певного входу $x$, якщо при тренуванні на різних тренувальних наборах він передбачує різні виходи. Похибка передбачення навченого класифікатора пов'язана із сумою зміщення та дисперсії навченого алгоритму. Як правило, існує компроміс між зміщенням і дисперсією. Алгоритм навчання з малим зміщенням повинен бути «гнучким», щоби могти добре допасовуватися до даних. Але якщо алгоритм навчання занадто гнучкий, він допасується до кожного тренувального набору даних по-різному, й відтак матиме велику дисперсію. Ключовим аспектом багатьох методів керованого навчання є те, що вони здатні підлаштовувати цей компроміс між зміщенням і дисперсією (автоматично, або шляхом надання параметра зміщення/дисперсії, який може налаштовувати користувач).

Складність функції та обсяг тренувальних даних

Друге питання полягає в кількості доступних тренувальних даних відносно складності «справжньої» функції (класифікатора чи функції регресії). Якщо справжня функція проста, то «негнучкий» алгоритм навчання з великим зміщенням і малою дисперсією зможе навчитися її з невеликої кількості даних. Але якщо справжня функція дуже складна (наприклад, тому, що вона передбачає складну взаємодію між багатьма різними ознаками входу, та поводиться по-різному в різних частинах простору входу), то функції можливо навчитися лише за допомогою великої кількості тренувальних даних у парі з «гнучким» алгоритмом навчання з малим зміщенням і великою дисперсією.

Розмірність простору входу

Третім питанням є розмірність простору входу. Якщо вектори ознак входу мають великі розміри, навчання функції може бути складним, навіть якщо справжня функція залежить лише від невеликої кількості цих ознак. Це пояснюється тим, що багато «додаткових» вимірів можуть заплутати алгоритм навчання й спричинити йому велику дисперсію. Отже, дані входу великої розмірності зазвичай вимагають налаштовування класифікатора на малу дисперсію та велике зміщення. На практиці, якщо інженер може вручну вилучити нерелевантні ознаки з даних входу, це, швидше за все, покращить точність навченої функції. Крім того, існує багато алгоритмів для обирання ознак, які намагаються визначати релевантні ознаки, та відкидати нерелевантні. Це приклад загальнішої стратегії зниження розмірності, спрямованої на відображення даних входу до простору нижчої розмірності перед запуском алгоритму керованого навчання.

Шум у значеннях виходу

Четвертим питанням є міра шуму в бажаних значеннях виходу (керівних цільових змінних, англ. target variables). Якщо бажані значення виходу часто неправильні (через людський чинник чи похибки давача), то алгоритм навчання не повинен намагатися знайти функцію, яка відповідає тренувальним прикладам точно. Спроба занадто ретельно допасуватися до даних призводить до перенавчання. Якщо функція, якої ви намагаєтеся навчитися, занадто складна для вашої моделі навчання, ви можете перенавчитися її, навіть якщо похибки вимірювання (стохастичний шум) відсутні. У такій ситуації частина цільової функції, яку неможливо змоделювати, «псує» ваші навчальні дані — це явище назвали детермінованим шумом. Якщо присутній будь-який тип шуму, краще використовувати оцінювач з більшим зміщенням і меншою дисперсією.

На практиці існує кілька підходів для полегшення шуму в значеннях виходу, таких як рання зупинка, щоби запобігати перенавчанню, а також виявляння та усування шумових тренувальних прикладів перед тренуванням алгоритму керованого навчання. Існує кілька алгоритмів, які встановлюють шумові тренувальні приклади, а усунення ймовірних шумових тренувальних прикладів перед тренуванням знижує похибку узагальнення зі статистичною значущістю.

Інші чинники, які слід враховувати

До інших чинників, які слід враховувати при виборі та застосуванні алгоритму навчання, належать наступні:

• Різнорідність даних. Якщо вектори ознак містять ознаки багатьох різних типів (дискретні, дискретні впорядковані, кількості, безперервні значення), деякі алгоритми застосовувати легше, ніж інші. Багато алгоритмів, включно з опорновекторними машинами, лінійною регресією, логістичною регресією, нейронними мережами та методами найближчих сусідів, вимагають, щоб ознаки входу були числовими та масштабованими до подібних діапазонів (наприклад, до проміжку [-1,1]). Особливо чутливі до цього методи, які використовують функцію відстані, такі як методи найближчих сусідів та опорновекторні машини з гауссовими ядрами. Перевагою дерев рішень є те, що вони легко обробляють різнорідні дані.
• Надмірність даних. Якщо ознаки входу містять надлишкову інформацію (наприклад, висококорельовані ознаки), деякі алгоритми навчання (наприклад, лінійна регресія, логістична регресія та методи на основі відстані) працюватимуть погано через числову нестабільність. Ці проблеми часто можливо розв'язувати за допомогою певного виду регулярізації.
• Наявність взаємодій та нелінійностей. Якщо кожна з ознак робить незалежний внесок до виходу, то алгоритми, що ґрунтуються на лінійних функціях (наприклад, лінійна регресія, логістична регресія, опорновекторні машини, наївний баєсів класифікатор) та функціях відстані (наприклад, методи найближчих сусідів, опорновекторні машини з гауссовими ядрами) загалом працюють добре. Проте якщо існують складні взаємодії між ознаками, то такі алгоритми як дерева рішень та нейронні мережі працюють краще, оскільки їх спеціально розробили для виявляння цих взаємодій. Також можливо застосовувати лінійні методи, але інженер повинен вручну вказати взаємодії під час їх використання.

Розглядаючи нове застосування, інженер може порівняти кілька алгоритмів навчання та експериментально визначити, який із них працює з наявною задачею найкраще (див. перехресне затверджування). Настроювання продуктивності алгоритму навчання може займати дуже багато часу. Враховуючи фіксовані ресурси, часто краще витрачати більше часу на збирання додаткових тренувальних даних та інформативніших ознак, ніж витрачати додатковий час на настроювання алгоритмів навчання.

Алгоритми

Найширше використовувані алгоритми навчання:

• Опорновекторні машини
• Лінійна регресія
• Логістична регресія
• Наївний баєсів класифікатор
• Лінійний розділювальний аналіз
• Дерева рішень
• Алгоритм k-найближчих сусідів
• Нейронні мережі (багатошаровий перцептрон)
• Навчання подібностей

Як працюють алгоритми керованого навчання

Для заданого набору з $N$ тренувальних прикладів, вигляду $\{(x_{1},y_{1}),...,(x_{N},\;y_{N})\}$, такого, що $x_{i}$ — вектор ознак $i$-го прикладу, а $y_{i}$ — його мітка (англ. label, тобто, клас), алгоритм навчання шукає функцію $g:X\to Y$, де $X$ — простір входу, а $Y$ — простір виходу. Функція $g$ це елемент деякого простору можливих функцій $G$, зазвичай званого простором гіпотез (англ. hypothesis space). Іноді зручно подавати $g$ за допомогою оцінкової функції $f:X\times Y\to \mathbb {R}$, такої, що $g$ визначають як таку, що повертає значення $y$, яке дає найвищу оцінку: $g(x)={\underset {y}{\arg \max }}\;f(x,y)$. Нехай $F$ позначує простір оцінкових функцій.

Хоча $G$ та $F$ можуть бути будь-якими просторами функцій, багато алгоритмів навчання це ймовірнісні моделі, де $g$ набуває вигляду моделі умовної ймовірності $g(x)=P(y|x)$, або $f$ набуває вигляду моделі спільної ймовірності $f(x,y)=P(x,y)$. Наприклад, наївний баєсів класифікатор та лінійний розділювальний аналіз це моделі спільної ймовірності, тоді як логістична регресія це модель умовної ймовірності.

Є два основні підходи до вибору $f$ або $g$: мінімізація емпіричного ризику та мінімізація структурного ризику. Мінімізація емпіричного ризику шукає функцію, яка найкраще допасовується до тренувальних даних. Мінімізація структурного ризику включає штрафну функцію (англ. penalty function), яка контролює компроміс зміщення/дисперсії.

В обох випадках вважають, що тренувальний набір складається з вибірки незалежних однаково розподілених пар, $(x_{i},\;y_{i})$. Щоби вимірювати, наскільки добре функція допасовується до тренувальних даних, визначають функцію втрат $L:Y\times Y\to \mathbb {R} ^{\geq 0}$. Для тренувального прикладу $(x_{i},\;y_{i})$ втрата передбачення значення ${\hat {y}}$ становить $L(y_{i},{\hat {y}})$.

Ризик (англ. risk) $R(g)$ функції $g$ визначають як очікувані втрати $g$. Їх можливо оцінювати з тренувальних даних через

$R_{emp}(g)={\frac {1}{N}}\sum _{i}L(y_{i},g(x_{i}))$.

Мінімізація емпіричного ризику

При мінімізації емпіричного ризику алгоритм керованого навчання шукає таку функцію $g$, яка мінімізує $R(g)$. Тож алгоритм керованого навчання можливо сконструювати, застосувавши алгоритм оптимізації для пошуку $g$.

Коли $g$ — умовний розподіл імовірності $P(y|x)$, а функція втрат — від'ємна логарифмічна правдоподібність: $L(y,{\hat {y}})=-\log P(y|x)$, то мінімізація емпіричного ризику рівнозначна оцінці максимальної правдоподібності.

Коли $G$ містить багато функцій-кандидатів або тренувальний набір недостатньо великий, мінімізація емпіричного ризику призводить до великої дисперсії та поганого узагальнення. Алгоритм навчання здатний запам'ятовувати тренувальні приклади без доброго узагальнення. Це називають перенавчанням.

Мінімізація структурного ризику

Мінімізація структурного ризику має на меті запобігати перенавчанню включенням до оптимізації регуляризаційного штрафу. Регуляризаційний штраф можливо розглядати як втілення певного вигляду леза Оккама, яке віддає перевагу простішим функціям перед складнішими.

Застосовували широкий спектр штрафів, які відповідають різним визначенням складності. Для прикладу розгляньмо випадок, коли функція $g$ є лінійною функцією вигляду

$g(x)=\sum _{j=1}^{d}\beta _{j}x_{j}$ .

Популярним регуляризаційним штрафом є $\sum _{j}\beta _{j}^{2}$, що є квадратом евклідової норми ваг, також відомим як норма $L_{2}$. До інших норм належать норма $L_{1}$, $\sum _{j}|\beta _{j}|$, та «норма» $L_{0}$, яка є числом ненульових $\beta _{j}$. Штраф буде позначувано через $C(g)$ .

Задача оптимізації керованого навчання полягає в тому, щоби знайти функцію $g$, яка мінімізує

$J(g)=R_{emp}(g)+\lambda C(g).$

Параметр $\lambda$ керує компромісом зміщення та дисперсії. Коли $\lambda =0$, це забезпечує мінімізацію емпіричного ризику з малим зміщенням та великою дисперсією. Коли $\lambda$ великий, алгоритм навчання матиме велике зміщення й малу дисперсію. Значення $\lambda$ можливо обирати емпірично за допомогою перехресного затверджування.

Штраф за складність має баєсову інтерпретацію як від'ємна логарифмічна апріорна ймовірність $g$, $-\log P(g)$, у випадку чого $J(g)$ є апостеріорною ймовірністю $g$.

Породжувальне тренування

Описані вище методи тренування є методами розрізнювального тренування (англ. discriminative training), оскільки вони прагнуть знайти функцію $g$, яка добре розрізнює відмінні значення виходу (див. розрізнювальну модель). Для особливого випадку, коли $f(x,y)=P(x,y)$ є спільним розподілом імовірності, а функція втрат є негативною логарифмічною правдоподібністю $-\sum _{i}\log P(x_{i},y_{i}),$ кажуть, що алгоритм мінімізації ризику виконує породжувальне тренування (англ. generative training), оскільки $f$ можливо розглядати як породжувальну модель, яка пояснює, як було породжено дані. Алгоритми породжувального тренування часто простіші та обчислювально ефективніші за алгоритми розрізнювального тренування. У деяких випадках розв'язок може бути обчислено у замкненому вигляді, як у наївному баєсовому класифікаторі та лінійному розділювальному аналізі.

Узагальнення

Існує кілька способів узагальнення стандартної задачі керованого навчання:

• Напівкероване навчання, або слабке керування: бажані значення виходу надаються лише для підмножини тренувальних даних. Решта даних немічені або мічені неточно.
• Активне навчання: замість виходити з того, що всі тренувальні приклади наведено від початку, алгоритми активного навчання інтерактивно збирають нові приклади, як правило, надсилаючи запити людині-користувачу. Часто запити ґрунтуються на немічених даних, що є сценарієм, який поєднує напівкероване навчання з активним.
• Структурове передбачування: якщо бажане значення виходу це складний об'єкт, такий як синтаксичне дерево або мічений граф, стандартні методи потребують розширення.
• Навчання ранжуванню: коли вхід це набір об'єктів, а бажаний вихід це ранжування цих об'єктів, стандартні методи теж потребують розширення.

Підходи та алгоритми

• Аналітичне навчання
• Штучна нейронна мережа
• Зворотне поширення
• Підсилювання (метаалгоритм)
• Баєсова статистика
• Міркування на основі прецедентів
• Навчання дерев рішень
• Індуктивне логічне програмування
• Кригінг
• Генетичне програмування
• Метод групового урахування аргументів
• Ядрові оцінювачі
• Автомати з самонавчанням
• Системи навчання класифікаторів
• Навчане векторне квантування
• Мінімальна довжина повідомлення (дерева рішень, графи рішень тощо)
• Навчання полілінійних підпросторів
• Наївний баєсів класифікатор
• Максимальноентропійний класифікатор
• Умовне випадкове поле
• Алгоритм найближчих сусідів
• Імовірно приблизно коректне навчання (англ. PAC learning).
• Ripple-down rules^{[уточнити термін]}, методологія набування знань
• Символьні алгоритми машинного навчання
• Субсимвольні алгоритми машинного навчання
• Опорновекторні машини
• Машини мінімальної складності (англ. MCM)
• Випадкові ліси
• Ансамблі класифікаторів
• Порядкове класифікування
• Попередня обробка даних
• Обробка незбалансованих наборів даних
• Статистичне навчання відношень
• Proaftn, алгоритм багатокритерійного класифікування

Застосування

• Біоінформатика
• Хемоінформатика
  • Кількісне співвідношення структура-властивість
• Маркетинг на основі баз даних
• Розпізнавання рукописного тексту
• Інформаційний пошук
  • Навчання ранжуванню
• Витягування інформації
• Розпізнавання об'єктів у комп'ютернім баченні
• Оптичне розпізнавання символів
• Виявляння спаму
• Розпізнавання образів
• Розпізнавання мовлення
• Кероване навчання є окремим випадком низхідної причинності в біологічних системах
• Класифікування рельєфу за допомогою супутникових знімків
• Класифікування витрат у процесах постачання

Загальні питання

• Теорія обчислювального навчання
• Індуктивне упередження
• Перенавчання
• (Некалібровані) ймовірності приналежності до класів
• Некероване навчання
• Простори версій

Див. також

• Перелік наборів даних для досліджень машинного навчання

Посилання

• Відкрите програмне забезпечення машинного навчання (англ. Machine Learning Open Source Software, MLOSS) (англ.)