Современная математика глубокого обученияобъяснение для тех, кто не занимается математикой

Основы обучения

Обучение выбирает правило предсказания по примерам. В отдельных примерах используются условные числа; общий проект работает с реальными измерениями.

Уроки

  1. Гребневая регрессия
  2. Квадратичная потеря
  3. Эмпирический риск
  4. Активация ReLU
  5. Шаг градиентного спуска
  6. Подсчёт параметров сети
  7. Классификатор по знаку
  8. Сеть ReLU с двумя нейронами
  9. Полносвязная сеть
  10. Минимизация эмпирического риска
  11. Логистическая суррогатная потеря
  12. Риск генеральной совокупности
  13. Расстояние на выборке
  14. Шаг градиента по мини-батчу
  15. Сложность Радемахера на конечном примере
  16. Рост на конечном пространстве входов
  17. Взвешенная граница обобщения
  18. Обучение как отображение
  19. Набор параметров сети
  20. Смещение как дополнительная координата
  21. Семейство гипотез сети
  22. Классификаторы по знаку
  23. Средняя суррогатная потеря
  24. Минимум регуляризованной целевой функции
  25. Риск классификации
  26. Байесовский риск на конечном пространстве
  27. Разложение риска регрессии
  28. Разложение риска классификации
  29. Сравнение без бесплатного обеда
  30. Обученная модель
  31. Граница сходимости SGD
  32. Объединение по ширинам сети
  33. Точное совпадение на всех обучающих точках
  34. Матрица, близкая к единичной
  35. Граница приближения Соболева
  36. Риск приближения и расстояние функций
  37. Размерность VC на двух входах
  38. Множитель VC-границы сети
  39. Множитель VC-границы обобщения
  40. Ненулевой линейный функционал
  41. Функции активации
  42. Скрытые признаки и интерполяция
  43. Проверка условия интеграла
  44. Вторая разделённая разность
  45. Равномерное приближение на компакте
  46. Покрытие конечного семейства функций
  47. Три масштаба обобщения
  48. Конечный пример симметризации
  49. Энтропийный интеграл
  50. Покрытие классификаторов и их потерь
  51. Разложение избыточного риска
  52. Интеграл индикатора интервала
  53. Невыпуклая цель обучения
  54. Несмещённое стохастическое обновление
  55. Признаки и цели из преобразования
  56. Потери для оценки плотности
  57. Оптимальная двоичная метка
  58. Сеть на рисунке источника
  59. Масштабированная сигмоида стремится к ступени
  60. Риск генеральной совокупности после обучения
  61. Суррогатные оценки и классификаторы
  62. Конечная задача обучения
  63. Выборка с распределением-произведением
  64. Усреднение итераций оптимизации
  65. Конечное семейство оценок и меток
  66. Функционал знаковой меры и проверка Фурье
  67. Условие универсального приближения
  68. Ограниченная квадратичная потеря
  69. Риск на отдельной тестовой выборке
  70. Масштаб размера при высокой размерности