Современная математика глубокого обученияобъяснение для тех, кто не занимается математикой

Свойства активации в теореме

Проект с пингвинами

Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV

Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.

Предположения и обозначения источника · Объясняют символы и предположения в утверждении источника.

Проект содержит конечные наблюдения и обученные параметры. Проверочная выборка не устанавливает границы для генеральной совокупности и не доказывает теорему.

Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.

Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].

Используется в разделах источника: 2.2 Размер весов и запас при классификации

Теорема использует активацию с константой Липшица 1 и сеть с выходной размерностью 1.

Эти условия ограничивают исследуемый класс сетей.

Пример формулы источника

11

Иллюстрация · Здесь проверяется одна пара для ReLU; глобальное свойство Липшица не доказывается одной парой.

Обозначения

11
Указанная константа Липшица или выходная размерность в зависимости от выражения.
ϱϱ
Функция активации.

Пример формулы источника

Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.

Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.

Поток данных в этом примере

Начальные значения в коде

  • a = -2
  • b = 1

Вычисляется здесь

Выражение результата: { a, b, outputDifference: Math.abs(relu(a) - relu(b)), inputDifference: Math.abs(a - b), outputDimension: 1, }

Возвращает

Пример результата
a
-2
b
1
outputDifference
1
inputDifference
3
outputDimension
1

Прочитайте числа из input и верните результат. Основы JavaScript.

Результат

Включите JavaScript, чтобы запустить пример.

Техническая формулировка

Числовые значения вымышлены, если не указано значение из источника. Здесь проверяется одна пара для ReLU; глобальное свойство Липшица не доказывается одной парой.

Источник: Обозначение в тексте