27 июня 1709 года русскими войсками под руководством Петра I под Полтавой была разбита шведская армия. В связи с этим событием императором было принято решение о строительстве в столице нового храма. Так как 27 июня по церковному календарю является днём поминовения Преподобного Сампсония Странноприимца, новый храм было решено назвать его именем.

Первое деревянное здание собора было заложено в конце ноября 1709 года, а освящено в 1710 году. Собор был построен на Выборгской дороге. Именно она ведёт на северо-запад, в ту сторону куда шли русские войска на войну со Швецией.

В начале XVIII века это место было достаточно отдалено от центра города. В 1711 году здесь организовали городское кладбище. До того, умерших хоронили во дворах, при приходских церквах. Петром I же было решено устроить место захоронения иностранцев именно здесь. Ведь все приехавшие в Санкт-Петербург иностранцы - странники, поэтому и должны они найти свой покой у церкви святого Сампсония Странноприимца. При Сампсониевском соборе были похоронены архитекторы Трезини, Леблон, Шлютер, Маттарнови, скульптор К. Б. Растрелли, личный врач Петра I Блюментрост, фельдмаршал Миних. Здесь же в 1740 году были похоронены враги Бирона А. П. Волынский, А. Ф. Хрущёв и П. М. Еропкин. Кладбище до наших дней не сохранилось.

В 1713 году рядом с деревянной церковью была открыта богадельня для странствующих, нищих и сирот.

С течением времени деревянный храм ветшал, а количество прихожан увеличилось. В 1728 году рядом со старым зданием началось строительство нового каменного здания собора. Его авторами стали архитекторы Дж. Трезини и М. Г. Земцов, строительство велось на средства купца Н. А. Лапшина и частные пожертвования. К 1733 году была построена западная часть здания, после чего возведение храма было приостановлено. Возобновлено оно было после возвращения Санкт-Петербургу статуса столицы императрицей Анной Иоанновной. В 1737-1739 годах русскими мастерами был создан уникальный деревянный иконостас высотой 11 метров. Освящение завершённого здания состоялось 19 августа 1740 года. Одновременно со зданием храма была построена колокольня. Первоначально собор имел один купол. В 1761 году к нему добавили ещё 4 малых, таким образом он получил традиционное русское пятиглавие.

Сампсониевский собор является уникальным архитектурным памятником Аннинского барокко , одним из немногих сохранившихся строений первой половины XVIII века в Санкт-Петербурге.

По указу Екатерины II над могилой Волынского, Хрущова и Еропкина была установлена памятная плита. В 1885 году архитектором Михаилом Щуруповым и скульптором Александром Опекушиным на народные деньги был создан установленный над могилой памятник.

В 1909 году отмечалось 200-летие победы под Полтавой. Этой дате было посвящено открытие у Сампсониевского собора памятника Петру I работы скульптора М. Антокольского. К торжествам была выполнена реставрация здания собора. По проекту А. П. Аплаксина и Н. Е. Лансере были построены часовня (на месте первой деревянной церкви), сторожка и двухэтажный Юбилейный дом с библиотекой и квартирами служащих церкви. Тогда же на южном и северном фасадах колокольни были установлены мемориальные чугунные доски с обращением императора Петра I русским войнам.

В 1938 году в соборе были прекращены богослужения, его стали использовать как овощной склад. В 1940 году памятник Петру I был перенесён в московскую Третьяковскую галерею. В 1942 году здание сильно пострадало от попадания в него снаряда, были уничтожены главный купол и один из малых куполов. В 1953-1957 годах здание собора было частично восстановлено.

В 1990х годах началась реставрация здания, которое передали Государственному музею Исаакиевский собор . В 1999 году в Сампсониевском соборе был открыт музей, по праздничным дням стали проводить богослужения. В мае 2003 года у здания храма была установлена копия находившегося здесь памятника Петру I.