Автоэнкодеры. Генеративные сети
Введение в автоэнкодеры
Вариационные автоэнкодеры (VAE)
Реализация вариационного автоэнкодера (VAE)
Генеративно-состязательные сети (GAN)
Реализация GAN на PyTorch
Обучающие курсы
Python Python ООП Django C/C++ ООП C++ Машинное обучение Структуры данных
Телеграм-каналы
Канал selfedu_rus Python Django Машинное обучение Java и С++
Наши каналы

Вариационные автоэнкодеры (VAE)

Смотреть материал на YouTube | RuTube

На предыдущем занятии мы с вами познакомились с работой простого автоэнкодера, который воспроизводил изображения цифр по вектору скрытого состояния. Давайте теперь внимательнее посмотрим на область, которую формирует кодер при преобразовании таких изображений. Для этого воспользуемся простой полносвязной НС с двумя нейронами для описания вектора скрытого состояния:

Модель автоэнкодера определим следующим образом:

class AutoEncoderMNIST(nn.Module):
    def __init__(self, input_dim, output_dim, hidden_dim):
        super().__init__()
        self.hidden_dim = hidden_dim
        self.encoder = nn.Sequential(
            nn.Linear(input_dim, 128),
            nn.ELU(inplace=True),
            nn.Linear(128, 64),
            nn.ELU(inplace=True),
            nn.Linear(64, self.hidden_dim)
        )
 
        self.decoder = nn.Sequential(
            nn.Linear(self.hidden_dim, 64),
            nn.ELU(inplace=True),
            nn.Linear(64, 128),
            nn.ELU(inplace=True),
            nn.Linear(128, output_dim),
            nn.Sigmoid()
        )
 
    def forward(self, x):
        h = self.encoder(x)
        x = self.decoder(h)
 
        return x, h

И обучим ее стандартным образом, так, как мы это делали на предыдущем занятии. С сохранением результата в файле 'model_vae.tar':

st = model.state_dict()
torch.save(st, 'model_vae.tar')

После этого переведем модель в режим эксплуатации и сформируем набор из всех тестовых данных:

d_test = torchvision.datasets.MNIST(r'C:\datasets\mnist', download=True, train=False, transform=transforms)
x_data = transforms(d_test.data).view(len(d_test), -1)

А, затем, пропустим их только через кодер и отобразим в двумерном пространстве полученные значения векторов скрытого состояния:

h = model.encoder(x_data)
h = h.detach().numpy()
 
plt.scatter(h[:, 0], h[:, 1])
plt.grid()
plt.show()

На графике увидим следующее распределение точек на выходе кодера для тестового набора изображений:

Это характерная картина формирования модельной области отображения входного сигнала в пространство скрытого состояния. Что из этого следует? Если мы будем брать точки в пределах сформированной области, то, скорее всего, на выходе декодера будут получаться осмысленные изображения цифр. Если же брать точку за пределами этой области, то очень вероятно получим какое-то неопределенное изображение. Например, для точки с координатами

получим следующее изображение:

h = torch.tensor([-40, -20], dtype=torch.float32)
predict = model.decoder(h.unsqueeze(0))
predict = predict.detach().squeeze(0).view(28, 28)
dec_img = predict.numpy()
plt.imshow(dec_img, cmap='gray')
plt.show()

Напоминает смесь каких-то цифр и выглядит не очень. Из-за этого автоэнкодеры в чистом виде не практичны для генерации произвольных изображений. То есть, мы не можем брать произвольные точки в области скрытого состояния, чтобы гарантированно получать осмысленные изображения. Чтобы решить эту проблему пространство состояний скрытого вектора должно быть компактным и представлять единую цельную область без существенных разделений. Именно эту цель преследуют вариационные автоэнкодеры:

Variational Autoencoders (VAE)

Они пытаются сформировать область точек скрытого пространства в соответствии с заданным законом распределения. Часто выбирают нормальное (гауссовское) распределение, так как оно наиболее просто с вычислительной точки зрения, имеет понятную, приемлемую форму и полностью определяется двумя параметрами:

математическое ожидание, дисперсия

Например, в случае двумерного вектора скрытого пространства , будем требовать от кодера формирования распределения точек на плоскости в соответствии с двумерной нормальной ПРВ:

Такой подход даст нам уверенную надежду, что любая точка, взятая в пределах полученного распределения, будет давать на выходе декодера осмысленные, понятные изображения. То есть, мы будем понимать как выбирать точки в скрытом пространстве для генерации новых полноценных изображений. Это ключевое отличие вариационного автоэнкодера от обычных автоэнкодеров. Более того, эту же картину можно интерпретировать как преобразование входного пространства большей размерности в компактное скрытое пространство признаков меньшей размерности. Часто это упрощает дальнейший анализ исходных данных.

Первый шаг, который мы можем сделать в направлении формирования компактного распределения векторов скрытого состояния – это добавить слои Batch Normalization после каждого полносвязного слоя в кодере:

class AutoEncoderMNIST(nn.Module):
    def __init__(self, input_dim, output_dim, hidden_dim):
        super().__init__()
        self.hidden_dim = hidden_dim
        self.encoder = nn.Sequential(
            nn.Linear(input_dim, 128, bias=False),
            nn.ELU(inplace=True),
            nn.BatchNorm1d(128),
            nn.Linear(128, 64, bias=False),
            nn.ELU(inplace=True),
            nn.BatchNorm1d(64),
            nn.Linear(64, self.hidden_dim)
        )
    ...

В результате получим следующее распределение векторов h:

Уже лучше, однако, этот ход не гарантирует требуемое нам распределение. Поэтому далее мы сформулируем критерий и построим новую архитектуру автоэнкодера, который будет давать нужное нам распределение векторов скрытого состояния.

Дивергенция Кульбака-Лейблера

Итак, у нас есть формируемое и желаемое распределения точек скрытого пространства. Обозначим их через :

Задачей алгоритма обучения будет не только точно воспроизвести входной сигнал, но и распределить точки скрытого пространства как можно ближе к распределению . Значит, нам нужен критерий качества, который бы оценивал степень расхождения между этими двумя распределениями: и . Благо математики уже давно придумали такой критерий, он называется

дивергенция Кульбака-Лейблера

(кому интересно, хороший материал по этой мере изложен на этой странице https://habr.com/ru/post/484756/). Так как мы предполагаем, что оба распределения будут гауссовскими с независимыми величинами вектора скрытого состояния

то расстояние Кульбака-Лейблера для этого случая записывается относительно просто, по следующей формуле:

Здесь - ковариационные матрицы вектора СВ. Например, для вектора h при условии независимости его величин, ковариационная матрица будет иметь диагональный вид:

Здесь по главной диагонали стоят дисперсии соответствующих величин. Вторая ковариационная матрица желаемого распределения можно взять единичной:

Это будет означать, что многомерная гауссовская ПРВ будет иметь одинаковые дисперсии по всем направлениям (осям), равные 1. И вектор СВ состоит также из независимых величин. Выбор такой ковариационной матрицы очень удобен, т.к. мы сможем ее сократить в критерии качества Кульбака-Лейблера.

Далее, векторы - математическое ожидание для каждой из k величин:

Мы здесь для желаемого нормального распределения МО всюду выбрали равные нулю. Это значит, центр многомерного распределения будет находиться в начале координат. В итоге вектор также можно будет сократить. В результате, мера Кульбака-Лейблера для нашего частного случая, станет следующей:

Если кто не знает

- сумма значений элементов главной диагонали матрицы (след матрицы);
- определитель матрицы (для диагональной – произведение значений на главной диагонали).

Итак, мера расхождения двух гауссовых ПРВ у нас есть. И эта мера зависит от векторов МО и дисперсии:

Но кодер на выходе выдает не эти величины, а непосредственно вектор скрытого состояния

Как же нам вычислять МО и дисперсии текущего распределения и сделать так, чтобы алгоритм обратного распространения ошибки мог использовать эту информацию при обучении VAE? Для этого кодер будет формировать не сам вектор h, а векторы :

Здесь генератор НСВ выдает величины с нулевым вектором МО и единичными дисперсиями. Поэтому, после поэлементного умножения на и сложением с , получим НСВ с этими характеристиками:

То есть, в процессе обучения нейроны кодера будут выдавать векторы МО и дисперсии для каждого входного наблюдения . Но откуда НС будет «знать», что одна группа нейронов – это МО, а другая – дисперсии? Она такими категориями не «мыслит»! Это происходит по тем же причинам, по которым, например, река течет строго по своему руслу:

Законы физики «заставляют» ее течь по ложбинке, а не по возвышенностям. Также и при обучении НС: нейроны приобретают те признаки, которым легче обучиться. Структура вариационного автоэнкодера как раз способствует формированию МО и дисперсии на этих группах нейронов в процессе обучение автоэнкодера.

Теперь, имея эти оценки, можно использовать меру Кульбака-Лейблера для определения соответствия текущего распределения заданному, а также еще один критерий для соответствия входного сигнала выходному. То есть, в процессе обучения VAE будут минимизироваться сразу два этих критерия. Первый будет способствовать формированию правильного распределения векторов h скрытого пространства. А второй – соответствию выходного сигнала входному. Здесь можно так же взять меру минимума среднего квадрата ошибок рассогласования:

где - вектор входного сигнала; - вектор выходного сигнала. Результирующий критерий будет равен сумме этих двух величин:

На следующем занятии мы реализует этот вариационный автоэнкодер и посмотрим к каким результатам он приводит.

Вариационные автоэнкодеры (VAE)

Дивергенция Кульбака-Лейблера

Видео по теме