Современная математика глубокого обучения

Параметры сети

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Классификация предсказывает три вида; гребневая регрессия предсказывает массу в граммах по тем же наблюдениям. Это разные модели. Прогнозы обучения поступают в целевую функцию; 102 отдельных тестовых прогноза не обновляют веса.

Правила предсказания и слои · Описывают или применяют правила предсказания, слои и параметры.

Проект использует линейное правило с двумя признаками. Обученные веса дают оценки или нормированную массу.

ЗадачаПримеры для обученияШаги обученияШтраф αПример для проверки

Операция проекта

Выход: Количество: 9 · Размерность: [3; 3]

Операция проекта

Вычисление проекта использует эти записи; формула и пример источника приведены ниже. Изменения кода действуют на этой странице; настройки проекта передаются между страницами.

Прогноз → Операция проекта → Операция проекта

Вход проекта

Показаны первые три элемента; операция получает весь массив. Предпросмотр округлён; операция использует полную точность.

input.weights · Модель: [≈-0,2895; ≈-2,052; ≈-1,016] … (9 элементов)
input.width · Настройка проекта или константа: 3

JavaScript

Результат

Количество: 9 · Размерность: [3; 3]

Используется в разделах источника: 1.2 Обучение на примерах · 1.2.1 Поиск более удачных параметров · 1.2.3 Работает ли это на новых примерах? · Другие разделы источника

θ — вектор обучаемых действительных чисел. P(N) подсчитывает его элементы для архитектуры N.

Параметры определяют конкретную сеть в этой архитектуре.

Пример формулы источника

\theta\in{\mathbb{R}}^{P(N)}

Иллюстрация · Этот вымышленный конечный пример поясняет обозначение и не доказывает общей теоремы.

Обозначения

$θ$: Вектор действительных параметров.
$N$: Архитектура сети.
$P(N)$: Число параметров.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Значение

Поток данных в этом примере

Вы выбираете

input.x = 2

Вычисляется здесь

Выражение результата: { theta, parameterCount: theta.length }

theta = [input.x, -1, 3] Использует: input.x

Возвращает

Пример результата

theta: массив (3 элементов): [2, -1, 3]
parameterCount: 3

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Числовые значения в этом примере вымышлены. Этот вымышленный конечный пример поясняет обозначение и не доказывает общей теоремы.

Источник: Обозначение в тексте