Современная математика глубокого обучения

Линейное правило предсказания

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Классификация предсказывает три вида; гребневая регрессия предсказывает массу в граммах по тем же наблюдениям. Это разные модели. Прогнозы обучения поступают в целевую функцию; 102 отдельных тестовых прогноза не обновляют веса.

Правила предсказания и слои · Описывают или применяют правила предсказания, слои и параметры.

Проект использует линейное правило с двумя признаками. Обученные веса дают оценки или нормированную массу.

ЗадачаПримеры для обученияШаги обученияШтраф αПример для проверки

Прогноз

Вход: Обучение: 12 × 2
Выход: [Вид: Адели · Вероятности: [≈0,9945; ≈0,005412; ≈0,00005477]; Вид: Адели · Вероятности: [≈0,6338; ≈0,3635; ≈0,002677]; Вид: Папуанский · Вероятности: [≈0,1023; ≈0,03028; ≈0,8674]] … (12 элементов)

Операция проекта

Вычисление проекта использует эти записи; формула и пример источника приведены ниже. Изменения кода действуют на этой странице; настройки проекта передаются между страницами.

Признаки → Прогноз → Потеря

Вход проекта

Показаны первые три элемента; операция получает весь массив. Предпросмотр округлён; операция использует полную точность.

input.features · Признаки: [[≈-1,946; ≈-1,283]; [≈-0,6098; ≈-1,029]; [≈-0,4454; ≈0,9162]] … (12 элементов)
input.weights · Модель: [≈-0,2895; ≈-2,052; ≈-1,016] … (9 элементов)
input.task · Настройка проекта или константа: classification
input.targetMean · Наблюдения: null
input.targetScale · Наблюдения: null

JavaScript

Результат

[Вид: Адели · Вероятности: [≈0,9945; ≈0,005412; ≈0,00005477]; Вид: Адели · Вероятности: [≈0,6338; ≈0,3635; ≈0,002677]; Вид: Папуанский · Вероятности: [≈0,1023; ≈0,03028; ≈0,8674]] … (12 элементов)

Используется в разделах источника: 2.3 Путь обучения имеет значение

Точка в ⟨θ, ·⟩ — место для входного вектора. Функция возвращает скалярное произведение θ и этого входа.

Фиксированный вектор весов определяет линейный предсказатель.

Пример формулы источника

\langle\theta,\cdot\rangle

Иллюстрация · Пример использует двумерные векторы.

Обозначения

$θ$: Действительный вектор весов.
$·$: Место для входного вектора подходящей размерности.
$⟨θ,·⟩$: Полученная линейная функция.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Поток данных в этом примере

Начальные значения в коде

theta = [2, 1]
x = [3, 4]

Вычисляется здесь

Выражение результата: { theta, x, prediction: theta.reduce((s, t, i) => s + t * x[i], 0) }

Возвращает

Пример результата

theta: массив (2 элементов): [2, 1]
x: массив (2 элементов): [3, 4]
prediction: 10

JavaScript

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Числовые значения вымышлены. Пример использует двумерные векторы.

Источник: Обозначение в тексте