1 сентября 1869 года император Александр II утвердил постановление Комитета министров о разрешении петербургским евреям построить синагогу взамен существующих молелен. Начался сбор средств на строительство: самое большое пожертвование сделал Евзель Гинцбург (70 тысяч рублей), по 25 тысяч внесли С. С. Поляков и И. А. Вавельберг, остальные взносы были меньше. Но все выбранные места для строительства синагоги, которые устраивали общину, по разным причинам не устраивали власти Петербурга.
Только спустя почти 10 лет в 1879 году община приобрела участок А. А. Ростовского на Большой Мастерской улице, за 65 тысяч рублей.
В июле 1879 года был объявлен конкурс архитектурных проектов будущей синагоги, победил проект Бахмана и Шапошникова, но Александр II отказался его утверждать, приказав: «Переделать проект в более скромных размерах». Архитекторы бесплатно сделали новый вариант.
Наконец, 16 мая 1883 года Александр III утвердил эскизный проект синагоги. Куратором проекта стал председатель Петербургского общества архитекторов Николай Бенуа, вхожий в близкий круг императора, председателем Строительного комитета назначили донатора синагоги С. С. Полякова.
История синагоги сквозь 130 лет
В 1888 году строительство завершилось, купол здания Большой синагоги был украшен орнаментом, но еще пять лет продолжалась отделка интерьеров, зал синагоги был рассчитан на 1200 мест.
8 декабря 1893 года Большую синагогу освятили, главы общины открыли серебряным ключом центральную дверь и внесли в зал 7 свитков Торы. На открытии раввин выразил надежду, что новый храм «станет началом храма будущего, храма всеобщей любви и мира на земле». Одновременно с открытием синагоги закрывались все старые молельни.
Отделка синагоги продолжалась и после освящения. Для Свадебного зала, названного Александровским в память Александра II, приобрели люстру, было проведено электричество, а в 1909 году был построен каменный забор и установлены хрустальные фонари.