Современная математика глубокого обучения

Проблема напечатанного представления

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Приближение и глубина · Изучают ошибку приближения и размер сети при заданных условиях.

Проект содержит конечные наблюдения и обученные параметры. Проверочная выборка не устанавливает границы для генеральной совокупности и не доказывает теорему.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 4.2 Приближение случайными частями

В статье напечатано равенство, где Γ — знак, умноженный на разность двух индикаторов. Поэтому |Γ| ≤ 1, и модуль правой части не может превышать Cg.

Для g(x) = exp(−πx²) соглашение статьи о преобразовании Фурье даёт ĝ(ξ) = exp(−πξ²) и Cg = 1/π. При x = 1/2 абсолютная разность 1−exp(−π/4) больше 1/π.

Этот контрпример выявляет несоответствие в напечатанной формуле.

Пример формулы источника

g(x)-g(0)=C_{g}\int_{{\mathbb{R}}^{d}}\frac{1}{\|\xi\|_{2}}(e^{2\pi i\langle x,\xi\rangle}-1)\,\mathrm{d}\mu_{g}(\xi)=C_{g}{\mathbbm{E}}\big[\Gamma(\Xi,\widetilde{\Xi})(x)\big],\quad x\in{\mathbb{R}}^{d},

Точное вычисление · Это контрпример напечатанному равенству с напечатанными определениями. Он не указывает исправление и не опровергает теорему Баррона о приближении.

Обозначения

$g$: Здесь g(x)=exp(−πx²) — интегрируемая функция.
$C_g$: Интеграл источника ∫|ξ||ĝ(ξ)|dξ, равный 1/π для этой гауссовой функции.
$Γ$: Напечатанная разность двух индикаторов, умноженная на знак из {−1,1}.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

x

Поток данных в этом примере

Вы выбираете

input.x = 0,5

Вычисляется здесь

Выражение результата: { g, absoluteDifference: difference, maximumPossibleRightSide: Cg, exceedsBound: difference > Cg, }

x = input.x Использует: input.x
g = Math.exp(-Math.PI * x * x) Использует: x
difference = Math.abs(g - 1) Использует: g
Cg = 1 / Math.PI

Возвращает

Пример результата

g: ≈0,4559
absoluteDifference: ≈0,5441
maximumPossibleRightSide: ≈0,3183
exceedsBound: истина

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Источник определяет Γ через два индикатора со значениями 0 или 1 и знак ±1. Поэтому Γ находится между −1 и 1, а модуль любого ожидания Γ не превышает 1. У гауссовой функции конечный момент Фурье Cg = ∫ℝ|ξ| exp(−πξ²)dξ = 1/π. При x=1/2 внутри единичного шара напечатанное равенство потребовало бы правую часть с модулем больше Cg. Напечатанное равенство и определение Γ сверены с PDF; это не определяет, какой множитель или определение нужно изменить.

Источник: Выражение из статьи