Глубокое обучение в естественных науках

Камера или сканер получает измерение скрытого объекта. Если объект известен, вычисление измерения — прямая задача. Если у нас есть только измерение и мы хотим восстановить объект, это обратная задача.

Предположим, датчик сообщает только сумму двух скрытых значений пикселей. И (1, 3), и (2, 2) дают одно и то же измерение.

function compareMeasurements(firstPair, secondPair) {
  const firstMeasurement = firstPair[0] + firstPair[1];
  const secondMeasurement = secondPair[0] + secondPair[1];
  return { firstMeasurement, secondMeasurement };
}
const result = compareMeasurements([1, 3], [2, 2]);

Датчик, сообщающий только сумму 4, не может определить, были ли два пикселя равны [1, 3] или [2, 2]: обе пары дают сумму 4. Измерению могут соответствовать несколько скрытых объектов. Шум усложняет выбор.

Один распространённый подход ищет объект-кандидат, который воспроизводит измерение и соответствует полезному предположению, например содержит преимущественно гладкие области. Формула уравновешивает расхождение с измерением и штраф за неправдоподобные кандидаты.

Статья описывает три широких способа применения нейросетей: выучить обратное отображение по парным примерам, выучить предпочтение правдоподобных объектов или использовать саму сеть для представления объекта-кандидата и подгонять его под наблюдаемое измерение.

Каждый подход может дать сбой, если обучающие примеры не отражают разнообразия данных, измерение теряет слишком много информации или подгонка начинает соответствовать шуму. Правдоподобная реконструкция не обязательно является истинным скрытым объектом.

Стержень может быть горячим в одном месте и холодным в другом. В этой простой модели тепло движется от более горячих участков к более холодным, поэтому температуры со временем меняются. Правило, связывающее распределение температуры вдоль стержня с её изменением во времени, называют уравнением в частных производных.

Для теплопроводности важна начальная температура в каждой точке. Одного знания температур на двух концах недостаточно, чтобы определить начальное состояние середины. Статья обсуждает модели в финансах, управлении и изучении молекул; они могут иметь много входных координат.

Мы видели один метод для теплопроводности в главе 4: выбрать случайные траектории, заканчивающиеся в начальных позициях, прочитать там начальные температуры и усреднить их для оценки более позднего значения в начальной точке траекторий. Для этого нужны модель и время моделирования, а не только положения траекторий.

Для каждого возможного расположения электронов волновая функция ψ задаёт число. Оно может быть комплексным — таким, которое мы изображали стрелкой в главе 7. Это амплитуда, а не вероятность. Возведём длину стрелки в квадрат и изменим масштаб всего распределения так, чтобы общая вероятность была равна 1. Получится плотность вероятности: она описывает, где шанс сосредоточен сильнее. Суммируя плотность по области расположений, получаем вероятность этой области.

В статье электроны разделены на группы по свойству, которое называют спином; это не буквальное вращение маленького шарика. При перестановке положений двух электронов внутри одной спиновой группы знак волновой функции должен смениться. В простом примере с двумя состояниями сравним амплитуды +1 и −1 до и после перестановки, затем возведём их в квадрат.

function probabilities(amplitudes) {
  const weights = [];
  let total = 0;
  for (const amplitude of amplitudes) {
    const weight = amplitude ** 2;
    weights.push(weight);
    total += weight;
  }
  if (total === 0) {
    throw new Error('Сумма квадратов амплитуд должна быть ненулевой.');
  }
  const probabilities = [];
  for (const weight of weights) probabilities.push(weight / total);
  const swappedAmplitudes = [amplitudes[1], amplitudes[0]];
  const negativeAmplitudes = [-amplitudes[0], -amplitudes[1]];
  return { amplitudes, swappedAmplitudes, negativeAmplitudes, probabilities };
}
const result = probabilities([1, -1]);

В этой отдельной модели с двумя состояниями (+1)² = 1 и (−1)² = 1. Их сумма равна 2, поэтому каждый нормированный вес равен 1/2. Перестановка меняет знаки, но не эти вероятности модели. Реальные положения электронов образуют непрерывное пространство; эти две условные вероятности не описывают настоящую молекулу.

Перестановка записей о положениях внутри одной спиновой группы меняет знак ψ. Это правило называют антисимметрией. Условие статьи не требует такого же правила для перестановок между двумя разными спиновыми группами.

Мы также можем вычислить взвешенное среднее возможных значений энергии. Это условный пример математического ожидания, а не решение уравнения Шрёдингера.

Для двух условных состояний с энергиями 1 и 3 и вероятностями 0.75 и 0.25 умножьте каждую энергию на её вероятность и сложите результаты.

function averageEnergy(chance, low, high) {
  if (!(chance >= 0 && chance <= 1)) {
    throw new Error('Вероятность должна быть от 0 до 1.');
  }
  return { averageEnergy: (1 - chance) * low + chance * high };
}
const result = averageEnergy(0.25, 1, 3);

При уровнях энергии 1 и 3 (в произвольных единицах энергии) и вероятностях 0.75 и 0.25 умножаем и складываем: 0.75×1 + 0.25×3 = 1.5 единицы энергии. Статья использует более сложное выражение для энергии, которое должно удовлетворять физическому уравнению.

Исследователи закладывают правило перестановки электронов с одинаковым спином в некоторые архитектуры сетей и объединяют его с информацией, полученной при обучении о взаимодействиях, вместо того чтобы надеяться на случайное обнаружение правила сетью без ограничений.

Эти примеры не являются универсальными решателями задач теплопроводности или квантовой механики. Они показывают повторяющийся вывод статьи: математическая структура может сделать очень трудную задачу обучения более управляемой, но результатам нужны собственные условия и тщательные численные проверки.