Ожидаемая матрица Грама признаков
Проект с пингвинами
Проект использует 342 записи Palmer с нужными измерениями: 240 для обучения, 102 для проверки. Выбранные примеры для обучения определяют масштабирование и параметры модели. Исходный CSV
Этот проект обучает веса с помощью softmax, в отличие от лаборатории на главной странице, где используются ближайшие средние по видам. Те же измерения пингвинов, но разные методы классификации. Предсказания могут различаться.
Ядра и линеаризация · Связывают градиенты параметров или признаки с матрицами ядер.
Проект содержит конечные наблюдения и обученные параметры. Проверочная выборка не устанавливает границы для генеральной совокупности и не доказывает теорему.
Рассмотрите понятие рядом с проектом: предположения источника могут отличаться. Эти наблюдения не доказывают теорему.
Вход: 12 × 2; Проверка на новых данных: 102 · #58 · 40.6 мм, 193 мм. Известный ответ: Адели; Прогноз: Адели · [≈0,7383; ≈0,2444; ≈0,01737].
Используется в разделах источника: 5.2 Когда параметры меняются совсем немного
Усредните матрицы Грама по распределению инициализации.
Это ожидание используется в рассуждении источника о собственных значениях.
Пример формулы источника
Иллюстрация · Конечное распределение отличается от гауссовой инициализации источника и не доказывает его асимптотический вывод.
Обозначения
- Матрица Грама выходного градиента при случайной инициализации.
- Математическое ожидание по инициализации.
- Случайные параметры сети.
Пример формулы источника
Этот пример использует свои входные данные и предположения. Его изменение не меняет проект.
Измените значение или код и запустите пример. Это конечная иллюстрация, а не доказательство теоремы.
Поток данных в этом примере
Код изменён. Сбросьте его, чтобы вернуть схему примера.
Вы выбираете
input.x= 1
Начальные значения в коде
hiddenWeights=[-1, 1]
Вычисляется здесь
Выражение результата: { grams, expectedGram }
grams=hiddenWeights.map((w) => Math.max(0, w * input.x) ** 2)Использует:hiddenWeights,input.xexpectedGram=grams.reduce((a, b) => a + b, 0) / grams.lengthИспользует:grams
Возвращает
grams- массив (2 элементов): [0, 1]
expectedGram- 0,5
Прочитайте числа из input и верните результат. Основы JavaScript.
Результат
Техническая формулировка
В примере один образец и один узел ReLU; входящий вес равновероятно равен −1 или 1. Матрица Грама 1×1 — квадрат признака. Оба исхода перечислены точно.
Источник: Выражение из статьи