Заложен 3 июня 1853 вместе с дворцом вел. кн. Николая Николаевича-старшего (арх. А. И. Штакеншнейдер). Освящен 6 ноября 1863 протопр. В. Б. Бажановым. Крипта (копия пещеры Гроба Господня), устроенная под главным алтарем, освящена 6 января 1875 (н. ст.). В апреле 1918 храм был закрыт. 25 октября 1999 состоялось первое богослужение с малым освящением храма. Престольные праздники: в честь иконы Божией Матери «Всех скорбящих Радость» – 6 ноября; св. ап. Петра – 29 января и 12 июля; св. вмц. Варвары – 17 декабря. В дни престольных праздников в крипте совершаются водосвятные молебны. Памятник архитектуры, охраняется государством.