Современная математика глубокого обучения

Регуляризованная обратная задача

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Обратные задачи · Описывают восстановление по наблюдениям с прямым оператором.

У этого применения свои входные данные и предположения; измерения пингвинов не являются его экспериментальными данными.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 8.1 Восстановление по измерениям

Примените прямое отображение K к кандидату y. Сравните результат с наблюдением x и добавьте штраф R(y) с весом α.

Штраф помогает выбрать среди кандидатов, согласующихся с наблюдениями.

Пример формулы источника

\|Ky-x\|^{2}+\alpha R(y),

Иллюстрация · Вычисляется одна условная скалярная цель; общая обратная задача не решается.

Обозначения

$K$: Прямое отображение из пространства кандидатов в пространство наблюдений.
$x$: Наблюдаемые данные.
$y$: Кандидат на значение неизвестной величины.
$R$: Выбранный регуляризатор.
$α$: Вес штрафа.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Кандидат yШтраф α

Поток данных в этом примере

Вы выбираете

input.candidate = 1
input.alpha = 0,5

Вычисляется здесь

Выражение результата: { predictedObservation, residual, fit, penalty, objective: fit + penalty }

predictedObservation = 2 * input.candidate Использует: input.candidate
residual = predictedObservation - 4 Использует: predictedObservation
fit = residual ** 2 Использует: residual
penalty = input.alpha * input.candidate ** 2 Использует: input.alpha, input.candidate

Возвращает

Пример результата

predictedObservation: 2
residual: -2
fit: 4
penalty: 0,5
objective: 4,5

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Измените вход и снова запустите тот же код. Результат использует значения, показанные выше.

Источник: Выражение из статьи