Публикации по теме 'backpropagation'


Нейронные сети IV: Графический подход
Мягкое введение в нейронные сети Нейронные сети IV: Графический подход Эта серия сообщений о нейронных сетях является частью коллекции заметок во время Facebook PyTorch Challenge, предшествовавшего Программе Deep Learning Nanodegree в Udacity . СОДЕРЖАНИЕ Введение Графическое представление нейронных сетей Шаблоны в вычислениях - Гейтс Заключение 1. Введение Как и в предыдущих частях, мы будем работать с той же структурой нейронной сети. Как мы видели в..

Обратное распространение нейронных сетей стало проще
Вступление Понимание математических операндов, лежащих в основе нейронных сетей (NN), очень важно для возможностей специалистов по данным при разработке эффективной глубинной модели. В этой статье будет продемонстрировано высокоуровневое вычисление полносвязной сетевой сети с акцентом на шаге обратного распространения. Статья ориентирована на людей с базовыми знаниями о нейронных сетях, которые стремятся глубже погрузиться в структуру нейронных сетей. Фон Цель процесса обучения -..

Обучение обучению: искусственные нейронные сети, часть II
С возвращением, сети в обучении! На прошлой неделе мы представили Multilayer Perceptron (MLP) - нашу первую искусственную нейронную сеть (ANN). Мы создали довольно строгую реализацию (у нее был один фиксированный скрытый слой), и я попросил вас сделать ее более гибкой. Хотя есть много способов сделать это, вот мое решение: Это новое решение упрощает эксперименты с архитектурой нашей сети (количеством входов, выходов, скрытых слоев и их размерами), чтобы увидеть, что лучше..

Обратное распространение и градиентный спуск
Обратное распространение и градиентный спуск — это два разных метода, которые образуют мощную комбинацию в процессе обучения нейронных сетей. Давайте попробуем интуитивно понять, как это работает. Нейронные сети обучаются путем прямого распространения, используя веса, смещения и нелинейные функции активации для вычисления предсказания y` на основе входных данных x, которые должны как можно точнее соответствовать истинным выходным данным y. Функция стоимости количественно определяет..