Современная математика глубокого обученияобъяснение для тех, кто не занимается математикой

Глубина и выразительность

Глубина может влиять на эффективность представления определённых функций. Примеры не доказывают теорему о разделении по глубине.

Уроки

  1. Функция на единичном интервале
  2. Композиция слоёв ReLU
  3. Функция шатра ReLU
  4. Размер для приближения гладких функций
  5. Утверждение о разделении по глубине
  6. Интерполяция повторными функциями шатра
  7. Радиальная функция
  8. Гиперплоскость
  9. Неглубокая сеть ReLU
  10. Условие глубины и ширины
  11. Взвешенные ошибки и ошибки Фурье
  12. Сумма гребневых функций
  13. Свёртка и носитель
  14. Где нейрон переключается
  15. Длина траектории признака
  16. Ожидаемая длина кривой признака
  17. Плотность из энергии Фурье
  18. Ошибка приближения Соболева
  19. Преобразование Фурье гребневой функции
  20. Напечатанное масштабирование инициализации
  21. Граница числа областей гиперплоскостей
  22. Масштабы размера приближения
  23. Проверка условий размера
  24. Условие нормы Соболева
  25. Произведение ширин скрытых слоёв
  26. Направления на рисунке источника
  27. Траектория двумерной сети