Обмежена машина Больцмана

Обме́жена маши́на Бо́льцмана (ОМБ, англ. restricted Boltzmann machine, RBM) — це породжувальна стохастична штучна нейронна мережа, здатна навчатися розподілу ймовірностей над набором її входів.

Схема обмеженої машини Больцмана з трьома видимими вузлами та чотирма прихованими вузлами (без упереджених вузлів).

ОМБ було спочатку винайдено під назвою Гармоніум (англ. Harmonium — фісгармонія) Полом Смоленським 1986 року, а популярності вони набули після винайдення Джефрі Гінтоном зі співавторами у середині 2000-х років алгоритмів швидкого навчання для них. ОМБ знайшли застосування у зниженні розмірності, класифікації, колаборативній фільтрації, навчанні ознак, тематичному моделюванні та навіть квантовій механіці багатьох тіл. Їх можна тренувати як керованим, так і некерованим чином, залежно від завдання.

Як випливає з їхньої назви, ОМБ є варіантом машин Больцмана, з тим обмеженням, що їхні нейрони мусять формувати двочастковий граф: пара вузлів з кожної з двох груп вузлів (що, як правило, називають «видимим» та «прихованим» вузлами відповідно) можуть мати симетричне з'єднання між ними, але з'єднань між вузлами в межах групи не існує. На противагу, «необмежені» машини Больцмана можуть мати з'єднання між прихованими вузлами. Це обмеження уможливлює ефективніші алгоритми тренування, ніж доступні для загального класу машин Больцмана, зокрема, алгоритм контра́стового розхо́дження (англ. contrastive divergence) на основі градієнтного спуску.

Обмежені машини Больцмана можливо також застосовувати в мережах глибокого навчання. Зокрема, глибокі мережі переконань можуть утворюватися «складанням» ОМБ та, можливо, тонким настроюванням отримуваної глибокої мережі за допомогою градієнтного спуску та зворотного поширення.

Структура

Стандартний тип ОМБ має бінарновозначні (булеві) приховані та видимі вузли, і складається з матриці вагових коефіцієнтів $W$ розміру $m\times n$. Кожен ваговий елемент $(w_{i,j})$ цієї матриці пов'язано зі з'єднанням між видимим (вхідним) вузлом $v_{i}$ та прихованим вузлом $h_{j}$. Крім того, є вагові коефіцієнти упереджень (зміщення) $a_{i}$ для $v_{i}$ та $b_{j}$ для $h_{j}$. З урахуванням цих ваг та упереджень, енергію конфігурації (пари булевих векторів) (v,h) визначають як

$E(v,h)=-\sum _{i}a_{i}v_{i}-\sum _{j}b_{j}h_{j}-\sum _{i}\sum _{j}v_{i}w_{i,j}h_{j}$

або, в матричному записі,

$E(v,h)=-a^{\mathrm {T} }v-b^{\mathrm {T} }h-v^{\mathrm {T} }Wh.$

Ця функція енергії аналогічна функції енергії мережі Гопфілда. Як і з загальними машинами Больцмана, спільний розподіл імовірності для видимих та прихованих векторів визначають у термінах функції енергії наступним чином:

$P(v,h)={\frac {1}{Z}}e^{-E(v,h)}$

де $Z$ є статистичною сумою, визначеною як сума $e^{-E(v,h)}$ над усіма можливими конфігураціями, що можливо інтерпретувати як нормувальну сталу для забезпечення того, щоби ймовірності давали в сумі 1. Відособлена ймовірність видимого вектора є сумою $P(v,h)$ над усіма можливими конфігураціями прихованого шару,

$P(v)={\frac {1}{Z}}\sum _{\{h\}}e^{-E(v,h)}$,

і навпаки. Оскільки графова структура в основі ОМБ двочасткова (тобто, без з'єднань усередині шарів), збудження прихованих вузлів є взаємно незалежними для заданих збуджень видимих вузлів. І навпаки, збудження видимих вузлів є взаємно незалежними для заданих збуджень прихованих вузлів. Тобто, для m видимих вузлів та n прихованих вузлів умовною ймовірністю конфігурації видимих вузлів v для заданої конфігурації прихованих вузлів h є

$P(v|h)=\prod _{i=1}^{m}P(v_{i}|h)$.

І навпаки, умовною ймовірністю h для заданої v є

$P(h|v)=\prod _{j=1}^{n}P(h_{j}|v)$.

Імовірності окремих збуджень задаються як

$P(h_{j}=1|v)=\sigma \left(b_{j}+\sum _{i=1}^{m}w_{i,j}v_{i}\right)$ та $\,P(v_{i}=1|h)=\sigma \left(a_{i}+\sum _{j=1}^{n}w_{i,j}h_{j}\right)$

де $\sigma$ позначає логістичну сигмоїду.

Незважаючи на те, що приховані вузли є бернуллієвими, видимі вузли обмеженої машини Больцмана можуть бути багатозначними.^{[прояснити: ком.]} В такому випадку логістична функція для видимих вузлів замінюється нормованою експоненційною функцією (англ. Softmax function)

$P(v_{i}^{k}=1|h)={\frac {\exp(a_{i}^{k}+\Sigma _{j}W_{ij}^{k}h_{j})}{\Sigma _{k'=1}^{K}\exp(a_{i}^{k'}+\Sigma _{j}W_{ij}^{k'}h_{j})}}$

де K є кількістю дискретних значень, які мають видимі значення. Вони застосовуються в тематичному моделюванні та рекомендаційних системах.

Співвідношення з іншими моделями

Обмежені машини Больцмана є особливим випадком машин Больцмана та марковських випадкових полів. Їхня графова модель відповідає моделі факторного аналізу.

Алгоритм тренування

Обмежені машини Больцмана тренуються максимізувати добуток ймовірностей, призначених певному тренувальному наборові $V$ (матриця, кожен рядок якої розглядається як видимий вектор $v$),

$\arg \max _{W}\prod _{v\in V}P(v)$

або, рівноцінно, максимізувати математичне сподівання логарифмічної ймовірності тренувального зразка $v$, вибраного випадково з $V$:

$\arg \max _{W}\mathbb {E} \left[\log P(v)\right]$

Алгоритмом, що найчастіше застосовують для тренування ОМБ, тобто для оптимізації матриці вагових коефіцієнтів $W$, є алгоритм контрастового розходження (КР, англ. contrastive divergence, CD), що належить Гінтонові, первинно розроблений для тренування моделей добутку експертів (англ. product of experts, PoE). Цей алгоритм здійснює вибірку за Ґіббзом, і використовується всередині процедури градієнтного спуску (подібного до того, як зворотне поширення використовується всередині такої процедури при тренуванні нейронних мереж прямого поширення) для обчислення уточнення вагових коефіцієнтів.

Елементарну, однокрокову процедуру контрастового розходження (КР-1, англ. CD-1) для єдиного зразка може бути описано таким чином:

1. Взяти тренувальний зразок v, обчислити ймовірності прихованих вузлів, та вибрати вектор прихованих збуджень h з цього розподілу ймовірності.
2. Обчислити зовнішній добуток v та h, і назвати це позитивним градієнтом.
3. Спираючись на h, вибрати відбудову видимих вузлів v', а потім перевибрати з неї приховані збудження h'. (крок вибірки за Ґіббзом)
4. Обчислити зовнішній добуток v' та h', і назвати це негативним градієнтом.
5. Покласти уточненням вагової матриці $W$ різницю позитивного та негативного градієнтів, помножену на певний темп навчання: $\Delta W=\epsilon (vh^{\mathsf {T}}-v'h'^{\mathsf {T}})$.
6. Уточнити упередження a та b аналогічно: $\Delta a=\epsilon (v-v')$, $\Delta b=\epsilon (h-h')$.

Практичну настанову з тренування ОМБ, написану Гінтоном, можна знайти на його домашній сторінці.

Складена обмежена машина Больцмана

• Відмінність між складеними обмеженими машинами Больцмана (англ. Stacked Restricted Boltzmann Machines) та ОМБ полягає в тому, що ОМБ має бічні з’єднання всередині шару, які заборонено для того, щоби зробити аналіз піддатливим. З іншого боку, складена больцманова машина складається з поєднання некерованої тришарової мережі з симетричними вагами та керованого тонко настроюваного верхнього шару для розпізнавання трьох класів.
• Використання складеної больцманової машини призначене для розуміння природної мови, пошуку документів, створення зображень та класифікування. Ці функції тренуються некерованим попереднім тренуванням та/або керованим тонким настроюванням. На відміну від неорієнтованого симетричного верхнього шару, з двоспрямованим несиметричним шаром для підключення до ОМБ. Обмежені больцманові з'єднання є тришаровим з асиметричними вагами, а дві мережі об'єднано в одну.
• Складена больцманова машина має спільні риси з ОМБ, нейрон для складеної больцманової машини це стохастичний бінарний нейрон Гопфілда, такий же, як і в обмеженій машині Больцмана. Енергію як для складеної больцманової машини, так і для ОМБ, задають ґіббзовою мірою ймовірності $E=-{\frac {1}{2}}\sum _{i,j}{w_{ij}{s_{i}}{s_{j}}}+\sum _{i}{\theta _{i}}{s_{i}}$. Процес тренування обмежених больцманових машин подібний до ОМБ. Обмежені больцманові машини тренують пошарово та наближують стан рівноваги 3-сегментним проходом, не виконуючи зворотного поширення. Обмежені больцманові машини використовують як кероване, так і некероване тренування на різних ОБМ для попереднього тренування для класифікування та розпізнавання. Тренування використовує контрастове розходження з ґіббзовим вибиранням: Δw_ij = e*(p_ij - p'_ij)
• Перевага обмеженої больцманової машини полягає у виконанні нелінійного перетворення, тому її легко розширити, що може дати ієрархічний шар ознак. Слабкість полягає у складності обчислень цілочислових та дійснозначних нейронів. Вона не слідує градієнтові будь-якої функції, тож наближення контрастового розходження до максимальної правдоподібності є імпровізованим.

Література

• Fischer, Asja; Igel, Christian (2012), An Introduction to Restricted Boltzmann Machines, Progress in Pattern Recognition, Image Analysis, Computer Vision, and Applications, Lecture Notes in Computer Science (англ.), Berlin, Heidelberg: Springer Berlin Heidelberg, т. 7441, с. 14—36, doi:10.1007/978-3-642-33275-3_2, ISBN 978-3-642-33274-6

Див. також

• Автокодувальник
• Машина Гельмгольца

Посилання

• Введення до обмежених машин Больцмана [Архівовано 29 жовтня 2012 у Wayback Machine.]. Блог Едвіна Чена (англ. Edwin Chen), 18 липня 2011 р. (англ.)
• A Beginner's Guide to Restricted Boltzmann Machines. Архів оригіналу за 11 лютого 2017. Процитовано 15 листопада 2018.. Документація Deeplearning4j (англ.)
• Understanding RBMs. Архів оригіналу за 20 вересня 2016. Процитовано 29 грудня 2014.. Документація Deeplearning4j (англ.)
• Втілення ОМБ Бернуллі мовою Python, та посібник (англ.)
• SimpleRBM це дуже мелий код ОМБ (24 кБ), корисний вам для вивчення того, як вчаться та працюють ОМБ.
• Втілення обмежених машин Больцмана мовою Julia: https://github.com/cossio/RestrictedBoltzmannMachines.jl