Современная математика глубокого обучения

Разделяющий параметр

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Теория оптимизации · Изучает сходимость и геометрию потерь при заданных предположениях.

Проект содержит конечные наблюдения и обученные параметры. Проверочная выборка не устанавливает границы для генеральной совокупности и не доказывает теорему.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 2.3 Путь обучения имеет значение

Разделяющий параметр θ̂ даёт каждому обучающему примеру положительный знаковый отступ. При потере 0–1 его эмпирический риск равен нулю.

Минимальный отступ измеряет разделение всех обучающих примеров.

Пример формулы источника

r(\hat{\theta})=0

Иллюстрация · Пример проверяет только две точки; разделимость — условие для каждого примера в выборке.

Обозначения

$θ̂$: Разделяющий действительный вектор параметров.
$γ(θ̂)$: Минимальный знаковый обучающий отступ.
$r(θ̂)$: Его эмпирический риск 0–1.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Поток данных в этом примере

Начальные значения в коде

theta = [1, 1]
examples = [ { x: [1, 0], y: 1 }, { x: [-1, 0], y: -1 }, ]

Вычисляется здесь

Выражение результата: { theta, margins, minimum: Math.min(...margins), empiricalRisk: margins.filter((v) => v < 0).length / examples.length, }

margins = examples.map((e) => e.y * theta.reduce((s, t, i) => s + t * e.x[i], 0)) Использует: examples, theta

Возвращает

Пример результата

theta: массив (2 элементов): [1, 1]
margins: массив (2 элементов): [1, 1]
minimum: 1
empiricalRisk: 0

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Числовые значения вымышлены. Пример проверяет только две точки; разделимость — условие для каждого примера в выборке.

Источник: Обозначение в тексте