Алгоритм back propagation. Пример работы

Итак, наша задача вычислить весовые коэффициенты  НС с помощью градиентного алгоритма:

который мы с вами расписывали следующим образом:

Отсюда хорошо видно, что конкретный вид градиента меняется в зависимости от выбранной функции потерь  и функций активации НС . Кроме того, учитывая, как правило, большой объем обучающей выборки , выполнять суммирование по всем образам на каждой итерации работы градиентного алгоритма слишком расточительно. Поэтому на практике выбирают  случайно отобранных образов из обучающей выборки и только по ним считается градиент:

Набор из таких  образов часто называют батчем (batch, англ. пакет) или мини-батчем. А сам градиентный алгоритм превращается в стохастический градиентный спуск (SGD).

Но и это еще не все. Современные НС часто содержат огромное количество параметров : от десятков тысяч до триллионов. И если вычислять градиент функции потерь стандартным способом, то потребовалось бы порядка  операций, где  – число коэффицентов . Это очень много. Поэтому был придуман алгоритм, применимый именно к НС, который позволяет вычислять тот же самый градиент за линейное число операций, примерно:

где  – число слоев НС. Этот алгоритм получил название back propagation (обратное распространение ошибки). Впервые, в 1974 году, его предложил советский математик Галушкин А. И. Позже, в 1986 году, он был немного усовершенствован группой американских ученых, которые и дали ему такое название back propagation.

Математический вывод алгоритма обратного распространения ошибки при квадратической функции потерь я уже приводил в курсе по машинному обучению. Здесь же наглядно продемонстрирую принцип его работы на примере простой трехслойной НС.

Пусть начальные веса связей выбираются случайным образом в диапазоне [-0.5; 0,5]. Верхний индекс у весовых коэффициентов показывает их принадлежность к тому или иному слою. Каждый нейрон имеет дифференцируемую функцию активации .

На первом шаге делается прямой проход по сети. Пропускаем через нее вектор наблюдения  и запоминаем все выходные значения нейронов скрытых слоев:

и последнее выходное значение d:

После этого вычисляется величина ошибки, как производная по функции потерь:

В частности, при квадратической функции потерь, имеем:

На данный момент все должно быть понятно. Мы много раз подробно рассматривали процесс распространения сигнала по НС, и вы это уже хорошо себе представляете. А вот дальше начинается самое главное – обратное распространение ошибки.

Итак, у нас есть ошибка  и выбранная функция активации . Первое, что нам нужно, – это вычислить локальный градиент для выходного нейрона. Это делается по формуле:

Используя вычисленный локальный градиент, пропускаем его обратно по весам связей и вычисляем ошибки для предыдущего слоя:

А затем, по аналогии, вычисляются следующие значения локальных градиентов:

Для первого скрытого слоя, снова выполняется пересчет ошибок:

и соответствующих локальных градиентов:

После этого выполняется корректировка весов связей в соответствии с градиентным алгоритмом, начиная с последнего (выходного) слоя и доходя до первого:

 при

 при

В результате, мы выполнили одну итерацию алгоритма обучения НС. На следующей итерации следует взять другой входной вектор из обучающего множества. Лучше всего это сделать случайным образом, чтобы не формировались возможные ложные закономерности в последовательности данных при обучении НС. Повторяя много раз этот процесс, весовые коэффициенты   будут все точнее формировать выходные значения для обучающей выборки.

Вот так, в целом выглядит идея работы алгоритма обучения по методу back propagation (обратного распространения ошибки). Давайте теперь в качестве примера обучим следующую НС:

В качестве обучающего множества выберем все возможные варианты (здесь 1 – это да, -1 – это нет):

На каждой итерации работы алгоритма, мы будем подавать случайно выбранный вектор и корректировать веса, чтобы приблизиться к значению требуемого отклика. В качестве функции активации выберем гиперболический тангенс:

со значением производной:

Пример реализации алгоритма back propagation на Python с использованием тензоров пакета PyTorch:

neuro_net_12.py: https://github.com/selfedu-rus/neuro-pytorch/

Конечно, это довольно простой, примитивный пример, частный случай, когда можно обучить НС так, чтобы она вообще не выдавала никаких ошибок. Чаще всего в реальных задачах остается некоторый процент ошибок и наша задача сделать так, чтобы этих ошибок было как можно меньше.

Видео по теме

Нейронная сеть - краткая история триумфа

#1. Структура и принцип работы полносвязных нейронных сетей

#2. Установка PyTorch совместно с CUDA

#3. Создание тензоров. Конвертирование в NumPy

#4. Тензоры. Автозаполнение, изменение формы

#5. Тензоры. Индексирование и срезы

#6. Тензоры. Базовые математические операции

#7. Тензоры. Тригонометрические и статистические функции

#8. Тензоры. Векторно-матричные операции

#9. Использование CPU и GPU на примере простой НС

#10. Персептрон - возможности классификации образов

#11. Идея обучения НС градиентным алгоритмом

#12. Алгоритм back propagation. Пример работы

#13. Функции активации и потерь в PyTorch

#14. Автоматическое дифференцирование

#15. Оптимизаторы. Реализация SGD на PyTorch

#16. Классы nn.Linear и nn.Module

#17. Форматы представления выборок. Сбалансированность и репрезентативность

#18. Классы Dataset и Dataloader

#19. Применение классов Dataset и Dataloader

#20. Классификация изображений цифр БД MNIST

#21. Трансформации transform Класс ImageFolder

#22. Сохранение и загрузка моделей. Функции torch.save() и torch.load()

#23. Переобучение (overfitting). Критерии останова обучения

#24. L2-регуляризатор и Dropout

#25. Алгоритм Batch Normalization

#26. Классы Sequential, ModuleList и ModuleDict

#27. Введение в сверточные нейронные сети CNN

#28. Классы Conv2d и MaxPool2d

#29. Пример реализации сверточной нейронной сети

#30. Сверточные нейронные сети VGG-16 и VGG-19

#31. Теория стилизации изображений (Neural Style Transfer)

#32. Делаем стилизацию изображений на PyTorch

#33. Остаточные нейронные сети (residual networks - ResNet)

#34. Архитектуры ResNet-18 и ResNet-50

#35. Использование ResNet моделей. Связь ResNet с Dropout и бустингом

#36. Transfer Learning (трансферное обучение)

#37. Архитектура сети U-Net. Семантическая сегментация изображений

#38. Реализация U-Net для семантической сегментации изображений

#39. Введение в рекуррентные нейронные сети

#40. Класс nn.RNN рекуррентного слоя

#41. Рекуррентная сеть для прогноза символов

#42. Понятие эмбеддинга. Embedding слов

#43. Прогноз слов рекуррентной нейронной сетью

#44. Функции активации в RNN. Двунаправленные (bidirectional) RNN-слои

#45. Двунаправленные RNN в PyTorch. Сентимент-анализ фраз

#46. LSTM - долгая краткосрочная память

#47. Рекуррентный блок GRU

#48. Введение в автоэнкодеры

#49. Вариационные автоэнкодеры (VAE)

#50. Реализация вариационного автоэнкодера (VAE)

#51. Генеративно-состязательные сети (GAN)

#52. Реализация GAN на PyTorch