Церковь Смоленской иконы Божией Матери - самый известный и старинный храм Смоленского кладбища. Первое деревянное здание церкви, благодаря заботам императрицы Елизаветы Петровны, было построено за два года и освящено 30 сентября 1760 года. Затем к зданию был пристроен освящённый 6 ноября 1772 году Михайловский придел.

Спустя шестнадцать лет настоятель церкви протоиерей Георгий Петров собрал средства на строительство каменного здания. Проект нового храма составил академик архитектуры Алексей Алексеевич Иванов. Место для постройки выбрал митрополит Новгородский и Санкт-Петербургский Гавриил, сделавший это по прибытию на Смоленское кладбище 2 июня 1786 года. Здание строилось с 1786 по 1790 год. На возведение храма многие купцы жертвовали кирпич, песок. Строительные материалы подвозились к Смоленскому кладбищу по реке Смоленке. Новый иконостас был изготовлен охтинскими мастерами во главе с Яковом Дунаевым. Храмовые иконы создали академики живописи И. А. Акимов и Г. И. Козлов. 26 сентября 1790 года был освящён придел во имя Иоанна Богослова, через пять дней - придел во имя Смоленской иконы Божией Матери.

Со строительством каменного здания Смоленской церкви связана легенда, рассказывающая о Ксении Петербургской. Говорят, что она помогала строителям, по ночам поднимая на строительные леса кирпичи в подоле платья. Находящаяся неподалёку от Смоленской церкви часовня Ксении Петербургской является одним из главных мест паломничества верующих в Санкт-Петербурге.

Старая деревянная церковь в 1792 году была перестроена и освящена во имя архистратига Михаила.

В 1809 году Андрияном Захаровым к зданию Смоленской церкви был пристроен северный придел. Впоследствии храм был украшен росписями работы Безсонова. 24 июня 1833 года здесь был освящён Ильинский придел. 1 октября 1892 года к объёму церкви пристроили придел Иоанна Предтечи, где разместился выполненные М. М. Васильевым в византийском стиле иконостас. Северный и южный фасады украсили портики, в церкви открылась библиотека.

В 1932 году из закрытого Казанского собора сюда была перенесена Казанская икона Божией Матери. В советское время храм был закрыт лишь в 1940-1946 годах, Казанская икона была перенесена в Князь-Владимирский собор. 8 февраля 1947 года Смоленская церковь была вновь освящёна, в дальнейшем богослужения здесь не прекращались. До 1990-х годов этот храм оставался единственным открытым храмом на Васильевском острове. В 1950 году Смоленской церкви передали икону Милующей Божией Матери, для которой был сооружён ещё один придел.

В 1987-1988 годах здание Смоленской церкви было отремонтировано. 16 февраля 1990 году к 200-летию храма был освящён южный придел во имя Блаженной Ксении Петербургской.

Церковь Смоленской иконы Божией Матери открыта ежедневно с 6.00 до 17.00.