Норберт Винер и винеровский процесс

Норберт Винер и винеровский процесс

Плотности распределения стандартного винеровского процесса при трёх значениях времени.

Создание строгой математической модели броуновского движения и развитие теории случайных процессов.

Область

Теория вероятностей; математическая физика

Разновидность

Математическая модель

«Норберт Винер и винеровский процесс» - история математического превращения броуновского движения в строгий случайный процесс и одного из ключевых этапов формирования современной стохастики. Норберт Винер в начале 1920-х годов построил вероятностную меру на пространстве непрерывных траекторий, а в статье Differential-Space 1923 года дал конструкцию, которая стала основой того, что сегодня называют винеровским процессом или математическим броуновским движением.

Историческое значение работы Винера состояло не только в создании модели одного физического феномена. До него вероятность в основном задавалась для чисел, конечных наборов величин или последовательностей. Винер сделал случайным объектом целую непрерывную функцию времени. Это стало одним из первых крупных шагов к современной теории случайных процессов, стохастическому анализу и математике шумов.

Норберт Винер. Его теория броуновского движения стала одной из главных математических работ раннего периода.

От физического броуновского движения к математической задаче

К моменту, когда Винер обратился к броуновскому движению, физический сюжет уже имел почти столетнюю историю.

Роберт Броун в 1827 году наблюдал беспорядочное движение микроскопических частиц в жидкости. Альберт Эйнштейн в 1905 году и Мариан Смолуховский в 1906 году независимо дали количественное молекулярно-кинетическое объяснение. Жан Перрен экспериментально подтвердил основные следствия теории и превратил броуновское движение в один из сильнейших аргументов в пользу реальности молекул.

Роберт Броун. Наблюдение 1827 года дало физическому явлению имя, но строгая математическая модель появилась почти столетием позже.

Подробно эта история рассматривается в статье Броуновское движение: от Роберта Броуна до математики Винера. К началу 1920-х физическая интерпретация уже была достаточно ясна. Но оставалась математическая проблема: что именно представляет собой идеальная случайная траектория частицы?

Почему обычная механика здесь не подходила

В классической механике движение задаётся функцией координаты от времени. Обычно предполагается, что такая функция достаточно гладкая, чтобы можно было определить скорость как производную координаты. Броуновская траектория выглядела совершенно иначе. При увеличении временного разрешения движение не становилось гладким. Возникали новые зигзаги и флуктуации. Идеальная математическая модель должна была быть непрерывной, но чрезвычайно нерегулярной. Это был необычный объект для классического анализа начала XX века.

Проблема не одной траектории, а множества всех траекторий

Ещё сложнее было то, что теория вероятностей должна описывать не одну заранее выбранную кривую. Необходимо рассматривать все возможные траектории и задавать вероятности их множествам. Например:

• какова вероятность, что частица останется внутри заданного интервала;
• пересечёт ли она определённый уровень;
• где окажется к моменту $t$;
• каков будет максимум траектории за промежуток времени.

Такие вопросы относятся уже не к случайному числу, а к случайной функции.

Для их решения требовалась вероятность на пространстве функций.

Норберт Винер: необычный путь в математику

Винер родился в 1894 году в Колумбии, штат Миссури, в семье профессора Лео Винера. Он рано проявил исключительные способности и стал классическим примером ребёнка-вундеркинда. По данным MIT Press, Винер окончил Tufts College в четырнадцать лет и получил докторскую степень Гарвардского университета в восемнадцать. Его докторская работа относилась к математической логике.

После этого Винер учился и работал в Европе, общался с Бертраном Расселом, Г. Х. Харди и другими математиками и постепенно переключался от логики к анализу.

Так будущая теория случайных процессов возникла у исследователя, который начинал совсем в другой области.

MIT и инженерная среда

В 1919 году Винер вошёл в штат Массачусетского технологического института и оставался связан с MIT до конца жизни. Это было важным обстоятельством. Винер работал не только среди чистых математиков, но и рядом с инженерами, специалистами по связи, электрическим цепям и сигналам. Позднее именно инженерные задачи подтолкнут его к гармоническому анализу, прогнозированию временных рядов и кибернетике. Но первой великой случайной системой для него стало броуновское движение.

1921 год: первые работы о броуновском движении

MacTutor отмечает важные работы Винера по броуновскому движению уже в 1921 году. В библиографии Винера этого периода есть статьи The average of an analytical functional и The average of an analytical functional and the Brownian movement. Название «среднее аналитического функционала» хорошо показывает задачу. Винер хотел вычислять средние значения не обычных функций от случайного числа, а функционалов - величин, зависящих от целой траектории. Это уже почти современный язык вероятности на пространстве функций.

Что такое функционал траектории

Функция берёт число и выдаёт число. Функционал может брать целую функцию и выдавать число. Например, для траектории $x(t)$ можно рассматривать:

• максимальное значение;
• площадь под кривой;
• значение в заданный момент;
• время первого достижения границы.

Если траектория случайна, каждый такой функционал тоже становится случайной величиной. Чтобы вычислять его среднее, нужно иметь вероятностную меру на всём пространстве траекторий. Именно к этому вёл Винер.

1923 год: Differential-Space

В октябре 1923 года в Journal of Mathematics and Physics вышла работа Винера Differential-Space, страницы 131-174. Название сегодня звучит необычно. Речь шла о пространстве непрерывных функций и специальном способе интегрирования по нему. Encyclopedia of Mathematics считает введённую Винером меру первым крупным расширением теории интегрирования за пределы конечномерного пространства. Это было принципиально новым шагом. Вероятностный интеграл теперь можно было брать не по линии или плоскости, а по бесконечномерному пространству возможных путей.

Что значит «мера на пространстве путей»

В обычной геометрии мера может задавать длину, площадь или объём. В вероятности мера задаёт вероятность множества исходов. У Винера исходом становилась целая непрерывная кривая $x(t)$. Множество исходов - это множество таких кривых, обладающих некоторым свойством. Например, все траектории, которые к моменту 1 находятся между −1 и +1. Винеровская мера приписывает таким множествам вероятности. Так броуновское движение перестаёт быть метафорой «случайной ломаной» и становится строгим вероятностным объектом.

Стандартный винеровский процесс

Современный стандартный винеровский процесс $W(t)$ обычно определяется следующими свойствами:

• $W(0)=0$;
• приращения на непересекающихся интервалах независимы;
• приращение $W(t)-W(s)$ имеет нормальное распределение;
• его дисперсия равна $t-s$;
• траектория почти наверное непрерывна.

Такой процесс является одним из главных математических моделей броуновского движения.

Он одновременно гауссовский, марковский и имеет независимые приращения.

Эйнштейн и Винер отвечали на разные вопросы

Альберт Эйнштейн в Берне. Его теория 1905 года дала физическую статистику броуновского движения; Винер позднее построил строгую вероятность на пространстве траекторий.

Эйнштейн спрашивал, как связать среднее смещение частицы с температурой, вязкостью, размером частицы и молекулярной теорией. Винер спрашивал, как математически определить случайную непрерывную траекторию и интегрировать по множеству таких траекторий. Первый вопрос был прежде всего физическим. Второй - фундаментально математическим. Именно поэтому говорить, что Винер «просто записал формулу Эйнштейна строже», было бы неверно. Он создал новый уровень абстракции.

Непрерывность без гладкости

Винеровская траектория непрерывна. Частица не совершает мгновенных скачков на конечное расстояние. Но траектория настолько нерегулярна, что обычная скорость в классическом смысле не существует почти во всех точках. Это было одним из наиболее удивительных свойств новой модели. Классическая механика привыкла связывать непрерывное движение с дифференцируемой координатой. Винеровский процесс показывал, что непрерывность сама по себе совершенно не гарантирует гладкости. Так случайность заставляла анализ работать с функциями нового типа.

Математический объект, который невозможно нарисовать полностью

Любая нарисованная броуновская траектория имеет конечное разрешение. Если увеличить её участок, реальная идеальная модель должна обнаружить новые нерегулярности. Поэтому рисунок является только приближением. Это необычно отличает винеровский процесс от классической геометрической кривой. Его структура принципиально масштабна. На любом малом временном интервале остаётся случайное движение.

Винеровский процесс как марковский процесс

Винеровский процесс удовлетворяет марковскому свойству. При известном текущем положении вероятностное распределение будущего не требует знания полной прежней траектории. Здесь математически встретились две традиции. Андрей Марков исследовал зависимые дискретные последовательности. Винер построил непрерывную случайную траекторию. Андрей Колмогоров в 1931 году включил такие объекты в общую аналитическую теорию непрерывновременных марковских процессов.

Независимые приращения и марковость

Для винеровского процесса действует даже более сильное свойство. Будущее приращение независимо от всего прошлого, а не только условно не зависит от него при известном настоящем. Если взять два непересекающихся временных интервала, случайные изменения координаты на них независимы. Именно поэтому процесс так удобен как математический «чистый шум» непрерывного времени. В сложных моделях на него можно накладывать дрейф, силы и ограничения.

Почему винеровская мера была новым типом интегрирования

До Винера классическая теория интеграла работала главным образом в конечномерных пространствах. Точка могла иметь одну координату, две, три или конечное число координат. Траектория требует бесконечного числа значений $x(t)$. Формально это бесконечномерный объект. Винеровская мера показала, что по такому пространству можно строить содержательное интегрирование. Этот шаг оказал влияние далеко за пределами теории вероятностей. Позднее интегралы по пространствам траекторий будут играть огромную роль в математической физике.

Винер и потенциальная теория

После работ о броуновском движении Винер занялся задачей Дирихле и потенциальной теорией. MacTutor и биографические материалы подчёркивают, что работы 1923-1925 годов имели большое влияние в этой области. Исторически это важно, потому что между броуновским движением и потенциальной теорией существует глубокая связь. Вероятности достижения границы броуновской частицей могут интерпретироваться через гармонические функции. Позднее эта связь станет одной из классических тем вероятностного анализа.

Случайность становится методом анализа

Первоначально броуновское движение было объектом, который нужно было объяснить. После Винера оно постепенно превращалось в инструмент. Случайную траекторию можно использовать для решения задач анализа и дифференциальных уравнений. Это важный поворот:

вероятность не только описывает случайный физический феномен, но и становится методом решения детерминированных математических задач.

Так возникает вероятностный метод в анализе.

Колмогоров: общий язык процессов

В 1931 году Андрей Колмогоров опубликовал работу об аналитических методах теории вероятностей и заложил общую теорию непрерывновременных марковских процессов. Различие ролей Винера и Колмогорова важно. Винер построил фундаментальный конкретный процесс и меру на его траекториях. Колмогоров создал общий аналитический аппарат для большого класса процессов. Вместе эти работы стали одним из оснований современной стохастики.

От Винера к Ито

Следующий принципиальный шаг сделал Киёси Ито в 1940-е годы. Обычный интеграл плохо подходит для интегрирования по винеровской траектории, потому что она не имеет обычной производной. Ито создал специальное стохастическое исчисление. В нём стало возможно записывать уравнения вида:

$$\mathrm{d}X=a(X,t)\mathrm{d}t+b(X,t)\mathrm{d}W.$$

Здесь $\mathrm{d}W$ символизирует бесконечно малое винеровское случайное воздействие. Так работа Винера стала основой целого нового типа анализа.

Почему формальная «скорость броуновской частицы» опасна

Иногда винеровский процесс интуитивно описывают как частицу со случайной скоростью. Математически это вводит в заблуждение. Обычной мгновенной скорости у стандартной винеровской траектории нет. Её формальная производная связана с белым шумом и понимается как обобщённый случайный объект, а не обычная функция. Исторически именно такие трудности заставили математику создать новый аппарат стохастического исчисления.

От броуновского движения к шуму

Для Винера случайные процессы постепенно стали связаны не только с движением частиц, но и с инженерным шумом. Электрические и коммуникационные системы постоянно содержат случайные флуктуации. Если сигнал смешан с шумом, необходимо оценить его статистическую структуру и попытаться восстановить полезную часть. Так ранняя математика броуновского движения естественным образом переходила в теорию случайных временных рядов.

Инженерные вопросы MIT

MacTutor подчёркивает, что многие математические направления Винера стимулировались вопросами инженерных коллег в MIT. После броуновского движения он развивал обобщённый гармонический анализ, изучая спектральную структуру сложных сигналов. В 1930 году вышла его большая работа по generalized harmonic analysis, а в 1932 году - работа по тауберовым теоремам, за которую он получил премию Бохера. Связь со случайными процессами здесь сохранялась: сигнал рассматривается во времени, а его статистика и спектр несут информацию о внутренней структуре.

Wiener–Khinchin и случайные сигналы

В теории стационарных случайных процессов фундаментальное значение получила связь между автокорреляционной функцией и спектральной плотностью, известная как теорема Винера - Хинчина.

Она соединяет два способа описывать временной процесс:

• как значения, связанные во времени;
• как распределение мощности по частотам.

Для инженерии связи это было чрезвычайно важно.

Случайность переставала быть просто помехой и становилась объектом спектрального анализа.

Вторая мировая война и задача предсказания

Во время Второй мировой войны Винер работал над задачами управления огнём противовоздушной артиллерии. Необходимо было прогнозировать будущее положение быстро движущейся цели по шумным и запаздывающим наблюдениям. Это была уже не броуновская частица, но математически возникал родственный вопрос:

как из прошлого случайного процесса извлечь максимально точную информацию о будущем?

Исследования привели к теории оптимальной линейной фильтрации и прогнозирования.

Позднее соответствующие методы получили название винеровской фильтрации.

От случайного процесса к информации

В инженерных задачах Винер всё чаще рассматривал систему как сочетание сигнала, шума, обратной связи и управления. Так математика случайных процессов начала соединяться с теорией коммуникации. Параллельно в Bell Labs Клод Шеннон создавал теорию информации. Хотя их программы различались, обе выросли из необходимости математически работать с сообщениями и шумом.

Обратная связь как новый центральный сюжет

Постепенно Винер стал видеть общность между техническими системами и живыми организмами. И машина, и организм могут получать информацию о своём состоянии, сравнивать результат с целью и корректировать действие. Так появляется понятие обратной связи. В 1948 году Винер опубликовал книгу Cybernetics: Or Control and Communication in the Animal and the Machine. Слово «кибернетика» стало названием междисциплинарной программы исследования управления и коммуникации.

Связь между броуновским движением и кибернетикой не прямая, но реальная

Нельзя говорить, будто из винеровской меры автоматически «вытекает» кибернетика. Между 1923 и 1948 годами лежат гармонический анализ, теория сигналов, инженерные задачи и военные исследования. Но интеллектуальная преемственность заметна. Во всех случаях Винера интересуют системы, развивающиеся во времени, информация о прошлом и будущем, шум и статистическая структура наблюдений. Броуновское движение научило его работать с непрерывной случайностью. Кибернетика расширила вопрос до управления сложными системами.

Винер и Шеннон

В 1948 году почти одновременно вышли Cybernetics Винера и A Mathematical Theory of Communication Клода Шеннона.

Клод Шеннон. В 1948 году теория информации и кибернетика почти одновременно сделали коммуникацию центральным математическим объектом.

Это один из самых выразительных эпизодов истории математизации информации. Шеннон формализовал количество информации и пределы передачи по каналу. Винер связывал коммуникацию с управлением, обратной связью и поведением систем. Обе программы опирались на вероятностное мышление и анализ случайных сигналов.

Почему математическое наследие Винера шире кибернетики

В массовой культуре Винер прежде всего «отец кибернетики». Для истории математики это слишком узко. Tufts University называет среди его наиболее фундаментальных результатов работы по броуновскому движению и случайным процессам, обобщённому гармоническому анализу и тауберовым теоремам. Его ранняя теория броуновского движения по глубине и долговечности не менее важна, чем послевоенная кибернетика. Именно винеровская мера остаётся фундаментальным объектом современной теории вероятностей.

Винеровский процесс в современной математике

Сегодня винеровский процесс используется как стандартная модель непрерывного шума и диффузии.

Он входит в:

• стохастические дифференциальные уравнения;
• теорию мартингалов;
• математическую физику;
• фильтрацию случайных сигналов;
• финансовую математику;
• биофизику;
• теорию управления.

Во многих моделях $W(t)$ играет роль базового источника непрерывной случайности, к которому добавляются дрейф, нелинейность или взаимодействие.

Винеровский процесс и финансы

Во второй половине XX века винеровский процесс стал частью финансовой математики. Геометрическое броуновское движение использовалось для моделирования случайной динамики цен и вошло в классическую теорию Блэка - Шоулза. Исторически это очень дальнее применение. Винер не создавал процесс для фондового рынка. Но абстракция оказалась настолько универсальной, что пережила исходный физический сюжет и вошла в совершенно другую область.

Винеровский процесс и физика

Для физики броуновская модель продолжала развиваться. Случайные силы, диффузия, тепловой шум и флуктуации стали стандартными элементами статистической физики. Уравнение Ланжевена и винеровский процесс дают два взаимосвязанных способа описывать такие системы. В одном случае случайность входит как сила. В другом - как интегрированный случайный процесс. Стохастическое исчисление соединяет эти два языка.

Почему Винер был нужен после Эйнштейна

Можно спросить: если Эйнштейн уже вывел правильную статистику броуновского движения, зачем понадобилась теория Винера? Ответ показывает разницу между физической формулой и математической теорией. Эйнштейн дал распределения перемещений и их связь с физическими параметрами. Винер создал вероятностное пространство целых траекторий. Без этого нельзя строго исследовать максимумы, времена достижения, функционалы путей и динамику, зависящую от всей истории процесса. Именно поэтому винеровская мера стала отдельным фундаментальным достижением.

Почему Винер был нужен до Колмогорова

В 1933 году Колмогоров даст общую аксиоматику вероятности. Но винеровская мера появилась десятью годами раньше. Это важный исторический порядок. Математики уже строили очень сложные вероятностные объекты до окончательной стандартизации оснований дисциплины. Колмогоровская система затем дала им единый общий язык. Так история показывает не движение «сначала аксиомы, потом приложения», а взаимное развитие конкретных задач и общих оснований.

Броуновское движение как лаборатория новой вероятности

В XIX веке феномен был загадкой физики. В начале XX века он стал доказательством молекулярного мира. В 1920-е - лабораторией для новой теории функций и вероятности. В 1940-е - одним из оснований стохастического исчисления. Такая смена ролей объясняет, почему вокруг броуновского движения возникло столько фундаментальной математики. Это был физически содержательный объект, который одновременно требовал совершенно нового аппарата.

Историческая хронология

Год	Событие
1894	Рождение Норберта Винера.
1909	В возрасте четырнадцати лет оканчивает Tufts College.
1913	Получает докторскую степень Гарвардского университета.
1919	Начинает работу в Массачусетском технологическом институте.
1921	Публикует первые крупные работы об аналитических функционалах и броуновском движении.
1923	Выходит Differential-Space; вводится конструкция, позднее получившая название винеровской меры.
1923-1925	Развивает приложения к потенциальной теории и задаче Дирихле.
1930	Публикует работу по обобщённому гармоническому анализу.
1932	Выходит работа по тауберовым теоремам.
1933	Получает премию Бохера Американского математического общества.
1940-е	Работает над прогнозированием случайных сигналов и задачами управления огнём.
1948	Публикует Cybernetics: Or Control and Communication in the Animal and the Machine.
1963	Получает Национальную научную медаль США.
1964	Умирает в Стокгольме.

Историческое значение

Винер занимает особое место между классической теорией вероятностей и современной математикой случайных процессов. Марков дал строгую модель дискретной зависимой последовательности. Эйнштейн и Смолуховский превратили броуновское движение в количественную физическую теорию. Винер впервые построил строгую вероятность на пространстве непрерывных траекторий. Колмогоров затем включил такие процессы в общую аналитическую и аксиоматическую систему. Ито создал исчисление для интегрирования по этим траекториям. Так работа 1923 года стала одним из центральных звеньев в длинной цепи формирования современной стохастики. Поздняя кибернетика Винера выросла уже из более широкой проблематики сигналов, шумов и управления, но ранняя работа над случайными процессами дала ему один из фундаментальных языков для этой новой науки.

См. также

• Броуновское движение: от Роберта Броуна до математики Винера
• Андрей Колмогоров и основания современной теории вероятностей
• Цепи Маркова
• Марковский процесс
• Стохастическое дифференциальное уравнение
• Уравнение Ланжевена
• Кибернетика
• Теория информации

Источники и литература

• Wiener N. The Average of an Analytical Functional and the Brownian Movement // Proceedings of the National Academy of Sciences. 1921. Vol. 7. P. 294-298.
• Wiener N. Differential-Space // Journal of Mathematics and Physics. 1923. Vol. 2. P. 131-174.
• Wiener N. Generalized Harmonic Analysis // Acta Mathematica. 1930. Vol. 55. P. 117-258.
• Wiener N. Tauberian Theorems // Annals of Mathematics. 1932. Vol. 33. P. 1-100.
• Wiener N. Cybernetics: Or Control and Communication in the Animal and the Machine. Paris; Cambridge, Mass., 1948.
• Wiener N. Extrapolation, Interpolation, and Smoothing of Stationary Time Series. 1949.
• Masani P. Norbert Wiener 1894-1964 // Biographical Memoirs of the National Academy of Sciences.
• Wiener N. I Am a Mathematician: The Later Life of a Prodigy. 1956.