Участок на углу Среднего проспекта и 3-й линии Васильевского острова в середине XVIII века принадлежал англичанину В. В. Гому, затем - купцу П. П. Шустину. Первоначально владение занимало большую территорию, в начале 1820-х годов было разделено. Угловой участок выкупила купчиха В. Ф. Борисова (принадлежал ей до 1860-х годов). В 1872 году его приобрёл купец Я. Х. Пель. В это время здесь находился деревянный одноэтажный дом.

Изначально, лютеранская часовня на Васильевском острове располагалась в здании Кадетского корпуса (с 1732 года). В 1839 году здание перестраивалось, а 12 мая 1842 года часовня была снесена, так как загромождает двор . Николая I не устраивало частое присутствие гражданских лиц на территории воинской части. Поэтому из казны стали выделять по 5000 рублей на аренду помещения в доме на углу Среднего проспекта и 3-й линии.

В июне 1872 года председатель совета евангелическо-лютеранского прихода церкви святого Михаила В. Лесгафт обратился в Генеральную консисторию с ходатайством о выкупе участка Пеля. 9 июня разрешение на такую покупку было дано.

В этом же году архитектором Р. Е. Бергманом был составлен проект храма в неоготическом стиле. Этот проект был отвергнут. 12 июля 1874 года Александром III была принята работа инженера К. К. Бульмеринга. Данный проект предусмотрел аналогичное стилевое оформление здания. Закладка храма на 800 человек состоялась 23 октября 1874 года. Церковь в формах немецкой неоготической архитектуры была освящена 19 декабря 1876 года. Строительные работы продолжались ещё год.

Внутреннее пространство храма изначально было разделено на три нефа. Над входом находился орган и места для певчих. В 1886 году фасад здания был изменён по проекту Р. Б. Бернгарда. К 1909 году приход насчитывал 2000 человек. Церковь содержала богадельню и два сиротских приюта.

В 1920-х годах здание передали католической общине. 15 августа 1935 года церковь закрыли. С 1947 года здание использовали как склад табачной фабрики. В 1952-1992 годах здесь размещался завод Спорт , внутреннее пространство здания было поделено на три этажа. Завод занимался производством спортивного инвентаря.

В 1993 году храм был передан Христианскому евангелическо-лютеранскому объединению, после чего здесь возобновились богослужения. В настоящее время церковь святого Михаила реставрируется.