Здание возведено в 1847—1851 годах по проекту архитектора К. А. Тона, при участии Р. А. Желязевича, является «близнецом» построенного им же Николаевского вокзала в Москве.

Первым начальником вокзала стал Н. И. Миклуха. Его квартира находилась в самом здании вокзала, кроме того здесь располагались конторы служащих Московского вокзала, управление железной дороги, жилые квартиры служащих, императорские помещения.

В 1868 году в связи со значительно возросшим пассажиропотоком была начата реконструкция Николаевского вокзала. Был пристроен двухэтажный флигель для приёма багажа, правое крыло здания соединили с царскими покоями.

В 1898 году со стороны Лиговского проспекта было построено кирпичное здание отделения Николаевской железной дороги.

В 1912 году был объявлен конкурс на проект нового здания Николаевского вокзала. Появлявшиеся новые технические устройства требовали новых помещений, старое здание не могло их обеспечить. Среди участвующих в конкурсе были В. А. Щуко, И. А. Фомин, Ф. И. Лидваль. Сложность решения заключалась в том, что новый вокзал мог быть расширен только в сторону путей, Знаменская площадь к тому времени уже была сформирована. Одобрение получил проект В. А. Щуко. Было начато строительство корпуса прибытия, который должен был стать левым крылом нового здания. С началом Первой мировой войны строительство было прервано, старое здание избежало сноса.

В 1923 году, с переименованием Николаевской железной дороги в Октябрьскую, то же название получил и вокзал. Но уже в 1930 году вокзал стал именоваться Московским.

10 июня 1931 года от Московского вокзала отправился первый фирменный поезд — «Красная стрела». В 1962 году, одновременно с электрификацией движения, в здании вокзала были сделаны подземные переходы с выходом в город и на станцию метро «Площадь Восстания».

В 1950—1952 годах по проекту архитектора В. И. Кузнецова здание Московского вокзала было реконструировано и расширено. К его правому крылу со стороны Лиговского проспекта был пристроен новый флигель со вторым вестибюлем станции метро «Площадь Восстания».

В 1967 году был открыт новый световой зал (также по проекту В. И. Кузнецова), что увеличило площадь вокзала на 2700 квадратных метров. Внутри зала был установлен памятник В. И. Ленину работы скульптора Л. А. Месса. В 1976 году площадка между перронами и световым залом была перекрыта алюминиевым навесом.

В 1993 году бюст В. И. Ленина в зале прибытия был заменён бюстом Петра I работы А. С. Чаркина и В. В. Оленева.

В начале 2000-х годов вокзал был отреставрирован и оснащён автоматизированной системой контроля оплаты проезда пассажирами пригородных поездов.

Московский вокзал занимает третье место в стране по объёму пассажирских перевозок.