Нейронные сети

Введение в нейронные сети

  1. Структура и принцип работы полносвязных нейронных сетей
  2. Персептрон - возможности классификации образов, задача XOR
  3. Back propagation - алгоритм обучения по методу обратного распространения
  4. Ускорение обучения, начальные веса, стандартизация, подготовка выборки
  5. Переобучение - что это и как этого избежать, критерии останова обучения
  6. Функции активации, критерии качества работы НС
  7. Keras - установка и первое знакомство
  8. Keras - обучение сети распознаванию рукописных цифр
  9. Как нейронная сеть распознает цифры
  10. Оптимизаторы в Keras, формирование выборки валидации
  11. Dropout - метод борьбы с переобучением нейронной сети
  12. Batch Normalization (батч-нормализация) что это такое?

Сверточные нейронные сети

  1. Как работают сверточные нейронные сети
  2. Делаем сверточную нейронную сеть в Keras
  3. Примеры архитектур сверточных сетей VGG-16 и VGG-19
  4. Теория стилизации изображений (Neural Style Transfer)
  5. Делаем перенос стилей изображений с помощью Keras и Tensorflow
  6. Как нейронная сеть раскрашивает изображения

Рекуррентные нейронные сети

  1. Введение в рекуррентные нейронные сети
  2. Как рекуррентная нейронная сеть прогнозирует символы
  3. Делаем прогноз слов рекуррентной сетью Embedding слой
  4. Как работают RNN. Глубокие рекуррентные нейросети
  5. LSTM - долгая краткосрочная память
  6. Как делать сентимент-анализ рекуррентной LSTM сетью
  7. Рекуррентные блоки GRU. Пример их реализации в задаче сентимент-анализа
  8. Двунаправленные (bidirectional) рекуррентные нейронные сети

Дополнительно

  1. Автоэнкодеры. Что это и как работают
  2. Вариационные автоэнкодеры (VAE). Что это такое?
  3. Делаем вариационный автоэнкодер (VAE) в Keras
  4. Расширенный вариационный автоэнкодер (CVAE)
  5. Что такое генеративно-состязательные сети (GAN)
  6. Делаем генеративно-состязательную сеть в Keras и Tensorflow

Введение в Tensorflow

  1. Что такое Tensorflow? Примеры применения. Установка
  2. Тензоры tf.constant и tf.Variable. Индексирование и изменение формы
  3. Математические операции и функции над тензорами
  4. Реализация автоматического дифференцирования. Объект GradientTape
  5. Строим градиентные алгоритмы оптимизации Adam, RMSProp, Adagrad, Adadelta
  6. Делаем модель с помощью класса tf.Module. Пример обучения простой нейросети
  7. Делаем модель нейросети для распознавания рукописных цифр
  8. Декоратор tf.function для ускорения выполнения функций

Введение в Keras

  1. Введение в модели и слои бэкэнда Keras
  2. Keras - последовательная модель Sequential
  3. Keras - введение в функциональное API
  4. ResNet - революция глубокого обучения. Исчезающие и взрывающиеся градиенты
  5. Создаем ResNet подобную архитектуру для классификации изображений CIFAR-10
  6. Тонкая настройка и контроль процесса обучения через метод fit()
  7. Тонкая настройка обучения моделей через метод compile()
  8. Способы сохранения и загрузки моделей в Keras