Современная математика глубокого обучения

Кодировщик и декодер фрейма

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Фреймы и разреженные сигналы · Кодируют или восстанавливают сигналы с помощью фреймов и словарей.

Из длины клюва и крыла вычитаем средние по обучающим примерам, затем делим на их стандартные отклонения. Получается вектор из двух чисел.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 6.3 Разбор и восстановление

Кодировщик вычисляет скалярные произведения с векторами анализа. Декодер объединяет коэффициенты с векторами синтеза.

Эти операции определяют структурированные слои сети и их анализ.

Пример формулы источника

x\mapsto C=(\langle x,u_{i}\ast_{\circ}v_{j}\rangle)_{i\in[p],j\in[q]}\quad\text{и}\quad\quad C\mapsto\frac{1}{n}\sum_{i=1}^{p}\sum_{j=1}^{q}C_{i,j}\tilde{u}_{i}\ast_{\circ}\tilde{v}_{j},

Иллюстрация · Это одна полная конечная пара кодировщика и декодера двойственных фреймов, а не доказательство для произвольных фреймов.

Обозначения

$Cᵢⱼ$: Коэффициент анализа с индексами векторов фрейма i и j.
$uᵢ,vⱼ$: Векторы фрейма анализа.
$\tilde{u}ᵢ,\tilde{v}ⱼ$: Векторы двойственного фрейма синтеза.
$n$: Положительная длина окна.
$∗\circ$: Циклическая свёртка.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Первая координата

Поток данных в этом примере

Вы выбираете

input.first = 1

Начальные значения в коде

basisWindow = [ [1, 0], [0, 0], [0, 1], ]

Вычисляется здесь

Выражение результата: { coefficients, trace, traceCoordinate: trace / 2, reconstructed }

x = [input.first, 2, 3] Использует: input.first
coefficients = [ [x[0], x[1]], [x[1], x[2]], [x[2], x[0]], ] Использует: x
trace = basisWindow.reduce( (sum, row, i) => sum + row.reduce((v, z, j) => v + z * coefficients[i][j], 0), 0, ) Использует: basisWindow, coefficients
reconstructed = [ (coefficients[0][0] + coefficients[2][1]) / 2, (coefficients[0][1] + coefficients[1][0]) / 2, (coefficients[1][1] + coefficients[2][0]) / 2, ] Использует: coefficients

Возвращает

Пример результата

coefficients: массив (3 элементов): [массив (2 элементов): [1, 2], массив (2 элементов): [2, 3], массив (2 элементов): [3, 1]]
trace: 2
traceCoordinate: 1
reconstructed: массив (3 элементов): [1, 2, 3]

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Циклическая группа имеет d = 3 позиции, окно — n = 2, поэтому n < d. Стандартные базисные фреймы анализа и синтеза дают шесть показанных коэффициентов. След и сумма коэффициентов для первой координаты равны 2x₁. Каждая координата появляется дважды; деление на n восстанавливает x. Общее тождество требует предположений о двойственных фреймах.

Источник: Выражение из статьи