Первая церковь на участке шведской общины была построена в 1767-1769 годах, по проекту Ю. М. Фельтена. Она располагалась посередине южной стороны современного Шведского переулка. Шведская церковь стала первым культовым сооружением построенным Фельтеном. Для служителей церкви в 1771 году было построено здание на углу переулка и Большой Рождественской улицы, в 1792-1793 и 1821 годах - ещё два здания. В 1824 году здесь открылась церковная школа, в 1847м - детский приют, в 1860м - богадельня.

В 1863-1865 годах по проекту К. К. Андерсона построено новое здание церкви. К концу XIX века шведский приход насчитывал около семи тысяч человек. Среди прихожан были К. К. Андерсон, семья Нобелей, Лидвали, К. Г. Маннергейм. Церковь посещали шведские короли Густав III, Густав IV Адольф, Оскар II, Густав V.

В 1936 году церковь была закрыта и переделана под спортзал. Здесь был открыт Дом физической культуры имени Героя Советского Союза В. Я. Мягкова. В 1960 году в здании было установлено межэтажное перекрытие.

В 1991 году в части здания возобновились богослужения, кроме того здесь работала спортивная детско-юношеская школа олимпийского резерва по художественной гимнастике. В 2002 году здание полностью передано шведской общине.