Современная математика глубокого обученияобъяснение для тех, кто не занимается математикой

Начните здесь

Эти примеры знакомят с операциями из книги. В отдельных примерах используются условные числа; общий проект работает с реальными измерениями.

Уроки

  1. Числа и массивы
  2. Сумма и среднее
  3. Скалярное произведение
  4. Длина вектора
  5. Умножение матрицы на вектор
  6. Изменение результата
  7. Числовые множества
  8. Индексы от 1 до N
  9. p-норма вектора
  10. Норма Фробениуса
  11. Принадлежность множеству
  12. Подмножества
  13. Действительные векторы
  14. Действительные числа
  15. Положительные целые числа
  16. Диапазоны индексов
  17. Положительные действительные значения
  18. Единичный интервал
  19. Функции и области определения
  20. Неотрицательные функции
  21. Сравнение с точностью до константы
  22. Расстояние и шары
  23. Операторная норма матрицы
  24. Пространство измеримых функций
  25. Случайные величины и их законы
  26. Математическое ожидание и дисперсия
  27. Индикаторные функции
  28. Единичная матрица
  29. Тождественная функция
  30. Обучающие выборки
  31. Параметры сети
  32. Двоичные метки
  33. Размерность матрицы
  34. Неотрицательные действительные значения
  35. Диапазон p
  36. Норма Lp функции
  37. Пространства Соболева
  38. Внешнее произведение и транспонирование
  39. Различные индексы
  40. Натуральный логарифм
  41. Преобразование Фурье и конечные отсчёты
  42. Входы, цели и данные
  43. Множества гипотез
  44. Выборка примеров
  45. Правило обучения
  46. Функции активации
  47. Архитектура сети
  48. Независимая случайная выборка
  49. Несколько положительных размерностей
  50. Размеры изображения
  51. Дельта Кронекера
  52. Формы матриц
  53. Индексы вне начального диапазона
  54. Единичный шар в евклидовом пространстве
  55. Две индексные переменные
  56. Координата векторнозначной функции
  57. Степенная функция
  58. Замкнутые интервалы
  59. Области векторов и скаляров
  60. Индексы в конечном диапазоне
  61. Потери двоичной классификации
  62. Проекции входов и целей
  63. Допустимые векторы параметров
  64. Формы весов и смещений слоя
  65. Ширина сети
  66. Непрерывные функции
  67. Эмпирические минимизаторы
  68. Индексы обучающих входов
  69. Итерации оптимизации
  70. Размер мини-пакета
  71. Супремум конечного множества
  72. Веса выпуклой комбинации
  73. Вектор из единиц
  74. Выборки векторных данных
  75. Значения на схеме сети
  76. Линейная активация
  77. Экспоненциальная функция потерь
  78. Линейное правило предсказания
  79. Пространство двоичных векторов
  80. Вектор полиномиальных признаков
  81. Координатный базисный вектор
  82. Конечная мера и L2
  83. Бесконечная норма функции
  84. Нормы функций с мерой
  85. Произведение пространств векторов и скаляров
  86. Ограниченные потери
  87. Пары положительных констант
  88. Случайная пара входа и цели
  89. Условное математическое ожидание
  90. Значения с индексами из множества
  91. Несколько каналов сигнала
  92. Пакет векторов
  93. Зашумлённые наблюдения
  94. 1-норма выходных весов
  95. Параметры нейронов первого слоя
  96. Одна добавленная входная координата
  97. Малая положительная ошибка
  98. Равномерный случайный знак
  99. Конечный диапазон с фиксированной границей
  100. Условие глубины сети
  101. Потеря неожиданности
  102. Размеры скрытых слоёв
  103. Разность множеств индексов
  104. Многообразие и карта
  105. Касательное пространство
  106. Разбиение единицы
  107. Функция на многообразии
  108. Параметры случайных признаков
  109. Дисперсии инициализации
  110. Случайные начальные параметры
  111. Нейронное касательное ядро при заданных параметрах
  112. Радиальная целевая функция
  113. Пространства в обратной задаче
  114. Знаковые меры
  115. Пространство непрерывных функций и сопряжённое пространство
  116. Коэффициенты сноса и диффузии
  117. Волновая функция и плотность
  118. Координаты электронов
  119. Атомные номера
  120. Отметки оси на рисунке
  121. Ширины, использованные на рисунке
  122. Точность приближения
  123. Единичные векторы
  124. Компактное множество параметров
  125. Числа покрытия
  126. Правило, обученное на случайных данных
  127. Гладкие функции
  128. Аффинный слой
  129. Градиенты по параметрам
  130. Отступ классификации
  131. Архитектуры на рисунке траекторий
  132. Размеры выборок на рисунках источника
  133. Размеры большого изображения
  134. Степени многочленов
  135. Нулевой выходной вес
  136. Нулевые смещения скрытого слоя
  137. Радиальные направления и показатель степени
  138. Пары случайной выборки
  139. Линейная регрессия с шумом
  140. Предсказание линейного классификатора
  141. Пороговый признак
  142. Вероятностная мера случайных признаков
  143. Траектория случайного процесса
  144. Начальные данные для уравнения в частных производных
  145. Положение и время
  146. Функция Липшица
  147. Положительные параметры масштаба
  148. Индекс кривизны и потери
  149. Шум в полиномиальном примере
  150. Равномерный вход в полиномиальном примере
  151. Разные выборки и риски
  152. Целевая функция оптимизации
  153. Короткий фильтр и сигнал
  154. Совпадающие остаточные размерности
  155. Вход остаточной сети
  156. Решение уравнения в частных производных и начальное условие
  157. Пара для потерь при обучении с учителем
  158. Объединение диапазонов индексов
  159. Число мини-пакетов за эпоху
  160. Нулевая инициализация
  161. Ограниченное направление обновления
  162. Предельное ядро
  163. Эмпирическая матрица признаков
  164. Гауссова инициализация весов и смещений
  165. Класс сетевых гипотез
  166. Индексы слоёв и глубина
  167. Размерности и количества
  168. Положительные константы теоремы
  169. Целевая и приближающая функции
  170. Взвешенная ошибка функции
  171. Дескриптор модуля Фурье
  172. Деформации и производные
  173. Пример конечномерного гильбертова пространства
  174. Среднее и стандартное отклонение пакета
  175. Граница множества параметров
  176. Сеть при выбранных параметрах
  177. Параметры оператора признаков
  178. Мощность конечного класса функций
  179. Направления градиентного обновления
  180. Оценка плотности вероятности
  181. Квадратный корень плотности
  182. Композиция палаточной функции
  183. Масштабы инициализации траекторий
  184. Кривые входа сети
  185. Потери двоичной классификации
  186. Размерность входа сети
  187. Постоянное расписание шага
  188. Гладкие функции активации
  189. Различные входные точки
  190. Разделяющий параметр
  191. Радиус устойчивости параметров
  192. Псевдообратная матрица
  193. Единичный второй момент шума
  194. Обучающая и независимая тестовая выборки
  195. Класс функций потерь
  196. Преобразования Фурье произведений
  197. Значение нейрона до активации
  198. Недифференцируемость ReLU
  199. Масштабирование числа для приближения
  200. Сглаженный отступ
  201. Пример функции Соболева
  202. Нижняя граница k
  203. Пределы сигмоиды
  204. Отображение параметров при фиксированном входе
  205. Нулевой целевой параметр
  206. Нулевые выходные веса
  207. Конкретные ширины слоёв
  208. Множители числа аффинных областей
  209. Отображение входов в базисные векторы
  210. Компактная область обучения
  211. Один слой сети
  212. Выборка из двух точек источника
  213. Вектор параметров из шести элементов
  214. Произведение параметров и глубины
  215. Направления градиента по шагам
  216. Зашумлённая целевая функция
  217. Размеры фреймов
  218. Векторы фреймов
  219. Минимальный размер пакета
  220. Ширина и число сохраняемых элементов при прореживании
  221. Случайное итерационное приближение
  222. Обратный множитель квадратного корня
  223. Окрестности карт многообразия
  224. Локализованные функции карт
  225. Априорное распределение на множестве гипотез
  226. Число параметров сети в источнике
  227. Матрица вращения
  228. Равные случайные координаты
  229. Один обучающий пример
  230. Свойства активации в теореме
  231. Комплексная фаза Фурье
  232. Ограниченные значения цели
  233. Одномерный вход
  234. Равенство многочлена и активации
  235. Зависящие от размерности множители приближения
  236. Отношение ранга к размеру выборки
  237. Отношение размерности к размеру выборки
  238. Условия размеров для разделения по глубине
  239. Растущие нормы параметров
  240. Предсказание и метка в логистической потере
  241. Волновые функции положительного спина
  242. Оценка первого значения последовательности
  243. Ненулевая активация
  244. Множители числа параметров при интерполяции
  245. Параметры и примеры
  246. Байесовский оптимальный предсказатель
  247. Отмеченное тождество риска
  248. Методы конечных элементов hp
  249. Шары и объём в одном измерении