5 ноября 1905 года был организован Комитет по постройке Соборной Мечети в Санкт-Петербурге. Он был утверждён министром внутренних дел П. Г. Столыпиным в январе 1906 года. Комитет состоял из 20 мусульман, государственных и общественных деятелей, купцов. Его организатором стал писатель и публицист Ахун Баязитов, председательство получил полковник Абдул-Азиз Давлетшин.

Комитет получил право на сбор средств в размере 750 000 рублей в течении 10 лет на территории Российской Империи. Для этого выпускались лотерейные билеты и печатались открытки с проектными видами мечети. Самый большой взнос сделал эмир Бухарский, заплативший 321 000 рублей за земельный участок.

Для строительства мечети Комитет приобрёл участок на углу Кронверкского проспекта и Конного переулка (дом №7), принадлежавший инженеру И. Долоцкому. Однако этого оказалось недостаточно. Михраб (священная ниша перед которой стоят верующие) должна быть обращена на юг, в сторону Мекки, в данном случае - прямо на фасад дома на соседнем участке. Этот дом 17 ноября 1907 года также был выкуплен. Здесь разместили помещения для омовения, которые необходимо совершить перед входом в мечеть. Так же в здании разместили мастерские архитекторов, строительную контору, приёмную Комитета. А оставшиеся помещения сдавали в наём, прибыль с которого шла на строительства храма.

Под патронажем эмира был проведён архитектурный конкурс. Рекомендации для этого конкурса были разработаны Ахуном Баязитовым. Требовалось соорудить мечеть в два яруса, с хором, со строгим внутренним убранством, с дополнительным подвальным помещением для размещения верующих во время ежегодных мусульманских праздников.

Итоги конкурса были подведены 11 марта 1908 года. Всего было рассмотрено 45 проектов, из которых первые места получили работы М. С. Лялевича, М. М. Перетятковича и Н. В. Васильева. Проект последнего был рекомендован комиссией судей для строительства. Васильев предлагал за образец взять мавзолей Гур-Эмир в Самарканде, что и было в конечном итоге выполнено. В процессе работы архитектор привлекал своих коллег А. И. фон Гогена и С. С. Кричинского. В то время Гоген имел большой авторитет в правительственных кругах, что помогло уладить многие административные и хозяйственные проблемы. Кричинский же был членом мусульманской общины, что имело большой значение для строительного Комитета.

Проект мечети и заявка на разрешение о начале работ были представлены А. И. фон Гогеном в городскую управу 14 декабря 1908 года. 3 апреля 1909 года Кричинскому было выдано свидетельство на проведение подготовительных работ, установку забора. Одновременно проект был отправлен на экспертизу в Академию Художеств. В целом он был одобрен, но получил возражение по поводу выбранного места для мечети. Несогласие было обосновано тем, что мусульманский храм оказывался рядом с православным Свято-Троицким собором, домиком Петра I, что нарушало историческую целостность центра Санкт-Петербурга. Однако Столыпин, в целом согласившись с доводами Академии Художеств, посчитал что разрешение на строительство обратно взять будет нецелесообразно.

Первые строительные работы начались в июле-ноябре 1909 года, был выполнен нулевой цикл работ. Торжественная закладка храма произошла в 11 часов 3 февраля 1910 года. Она была приурочена к 25-летнему юбилею правления бухарского эмира и к его визиту в Санкт-Петербург.

В августе 1911 года Н. В. Васильевым был составлен проект дома для омовений. В сентябре получено разрешение на строительство, разобран деревянный флигель, на его месте к осени 1913 года появилось новое сооружение.

Первое богослужение в мечети произошло в феврале 1913 года, приурочено оно было к 300-летию дома Романовых.

Уникальная майолика храма создана художником-керамистом П. К. Ваулиным, дедушкой знаменитого петербургского композитора Андрея Петрова.

С началом Первой Мировой войны в 1914 году строительство мечети замедлилось, поступление денежных средств сократилось, многие строители были мобилизованы. Отделочные работы в храме продолжались вплоть до 1918 года, только с 1920-го стали проводиться постоянные богослужения.

В 1956 году здание мечети было передано религиозному Обществу мусульман. В 1968 году храм принял статус архитектурного памятника. В настоящее время здесь работает религиозно-образовательный центр. В петербургской мечети не только проводят богослужения, но и изучают Коран, учат арабскому и татарскому языкам.