Публикации по теме 'backpropagation'
Нейронные сети IV: Графический подход
Мягкое введение в нейронные сети
Нейронные сети IV: Графический подход
Эта серия сообщений о нейронных сетях является частью коллекции заметок во время Facebook PyTorch Challenge, предшествовавшего Программе Deep Learning Nanodegree в Udacity .
СОДЕРЖАНИЕ
Введение Графическое представление нейронных сетей Шаблоны в вычислениях - Гейтс Заключение
1. Введение
Как и в предыдущих частях, мы будем работать с той же структурой нейронной сети.
Как мы видели в..
Обратное распространение нейронных сетей стало проще
Вступление
Понимание математических операндов, лежащих в основе нейронных сетей (NN), очень важно для возможностей специалистов по данным при разработке эффективной глубинной модели. В этой статье будет продемонстрировано высокоуровневое вычисление полносвязной сетевой сети с акцентом на шаге обратного распространения. Статья ориентирована на людей с базовыми знаниями о нейронных сетях, которые стремятся глубже погрузиться в структуру нейронных сетей.
Фон
Цель процесса обучения -..
Обучение обучению: искусственные нейронные сети, часть II
С возвращением, сети в обучении! На прошлой неделе мы представили Multilayer Perceptron (MLP) - нашу первую искусственную нейронную сеть (ANN). Мы создали довольно строгую реализацию (у нее был один фиксированный скрытый слой), и я попросил вас сделать ее более гибкой.
Хотя есть много способов сделать это, вот мое решение:
Это новое решение упрощает эксперименты с архитектурой нашей сети (количеством входов, выходов, скрытых слоев и их размерами), чтобы увидеть, что лучше..
Обратное распространение и градиентный спуск
Обратное распространение и градиентный спуск — это два разных метода, которые образуют мощную комбинацию в процессе обучения нейронных сетей. Давайте попробуем интуитивно понять, как это работает.
Нейронные сети обучаются путем прямого распространения, используя веса, смещения и нелинейные функции активации для вычисления предсказания y` на основе входных данных x, которые должны как можно точнее соответствовать истинным выходным данным y. Функция стоимости количественно определяет..