Современная математика глубокого обучения

Интеграл индикатора интервала

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Функции и производные · Описывают отображения и изменение их значений.

Векторы проекта имеют два признака; обучающая матрица содержит n строк и два столбца. Инструменты применимы, когда выполнены их предположения.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 1.2 Обучение на примерах

Индикатор возвращает 1, когда значение лежит в замкнутом интервале, и 0 в остальных случаях. Интеграл по знаковой мере складывает значения индикатора со знаковыми весами.

Источник использует индикаторы интервалов в доказательстве универсального приближения.

Пример формулы источника

\int_{K}\mathds{1}_{[c_{1},c_{2}]}(\langle w,x\rangle+b)\,\mathrm{d}\mu(x)=0.

Иллюстрация · Здесь вычисляется один интеграл по конечной знаковой мере с тождественной проекцией. Это не устанавливает утверждение источника для всех интервалов, весов и смещений.

Обозначения

$c_1,c_2$: Концы интервала.
$μ$: Знаковая борелевская мера на K.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Нижняя границаВерхняя граница

Поток данных в этом примере

Вы выбираете

input.lower = 0
input.upper = 1

Начальные значения в коде

points = [0, 1, 2]
weights = [1, -2, 1]

Вычисляется здесь

Выражение результата: { indicators, integral }

indicators = points.map((x) => (x >= input.lower && x <= input.upper ? 1 : 0)) Использует: points, input.lower, input.upper
integral = indicators.reduce((sum, value, i) => sum + value * weights[i], 0) Использует: indicators, weights

Возвращает

Пример результата

indicators: массив (3 элементов): [1, 1, 0]
integral: -1

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Источник выводит равенство нулю интегралов индикаторов интервалов при условии, что все интегралы активированных аффинных функций равны нулю для сигмоидальной активации. Эта конкретная ненулевая учебная мера не удовлетворяет условию; численный результат лишь иллюстрирует интеграл.

Источник: Формула из статьи