Возникновение Митрофаниевского кладбища связано с эпидемией холеры, разразившейся в Петербурге летом 1831 года.
После окончания эпидемии мещанка Феврония Комарская, похоронившая здесь своих родных, стала хлопотать о постройке церкви и собирать для этого средства. В 1835 году митрополит Серафим благословил это начинание, а власти разрешили «учредить в смежности с холерным обыкновенное городское кладбище».
По благословению Высокопреосвященнейшего Митрополита Серафима, временный деревянный храм во имя святителя Митрофана Воронежского чудотворца построен на каменном фундаменте и покрыт листовым железом в 1835 г. на новооткрытом холерном Тентелевском кладбище. Первым церковным старостой храма и кладбища стал известный табачный фабрикант В.Г. Жуков. На свои средства он проложил к кладбищу дорогу, обсадил ее ветлами и выстроил ограду.
Осенью 1839 года по разрешению Святейшего Синода указом от 6 сентября 1839 г. за №12338 на Митрофаниевском кладбище заложили каменный трехпридельный храм (при этом территорию кладбища увеличили вдвое). Вначале его хотели выстроить по образцу Митрофаниевского собора в Воронеже, но денег на это собрать не удалось, и был взят готовый проект Константина Андреевича Тона в русско-византийском стиле, составленный им для православной церкви в г. Свеаборге. (Финляндия)
По ходатайству Митрополита Серафима С.-Петербургский военный генерал-губернатор граф Пётр Кириллович Эссен предписал Управе благочиния отвести одну с четвертью десятину из возделанного городского поля под построение каменного храма во имя святителя и чудотворца Митрофана Воронежского, согласно плану, доставленному от Министра внутренних дел. Отведенная земля на месте, опробованном архитектором Щедриным, определенном по размерам архитектором Габерцелем и одобренном архитектором Тоном, 23 сентября 1839 г. была освящена местным благочинным, протоиереем Тимофеем Никольским (По указу Консистории от 23 сентября 1839 г. №6905).
Через три года постройка была вчерне готова, но в августе 1842 года неожиданно рухнули купола, за что наблюдавшего за строительством академика К.И. Реймерса велено было «за неосторожное смотрение посадить на две недели на гауптвахту». Дальнейшее производство работ принял на себя опытный архитектор А. Адамини, после смерти которого дело завершал Ф. Руска. Ремонт и отделка церкви заняли еще пять лет, и в августе 1847 года епископ Ревельский Нафанаил освятил пятикупольный храм во имя святого Митрофана Воронежского. Высокий пятиярусный иконостас и роспись сводов исполнили по эскизам академика Ф.Г. Солнцева, иконы написали известные академические живописцы: П.М.Шамшин, К. Дузи, А.В. Нотбек, А.А.Васильев, К.А. Зеленцов. Роспись сводов произвел П. С. Титов.
В нем было два престола: главный – во имя новоявленного святителя и чудотворца Митрофана, первого епископа Воронежского; и предельный, в подвальном этаже во имя московских святителей Петра, Алексия и Ионы.
В подвальном этаже новой церкви устроили склепы для богатых захоронений. В 1858 году был освящен нижний придел во имя Святителей Московских. Здесь находились фамильные захоронения богатых купеческих семей Сытовых, Русаковых, Дурдиных, Петуховых, Кудрявцевых, а также могилы генерала артиллерии, члена Адмиралтейств-совета Д.П. Примо и директора Публичной библиотеки, историка, генерал-лейтенанта Н.К. Шильдера.
В 1883-1884 г. по проекту епархиального арх. Г. И. Карпова была возведена каменная звонница взамен деревянной, а также пристройка к алтарю, недалеко от которой был похоронен писатель И. И. Лажечников. Для помещения священно- и церковнослужителей первоначально существовало три дома. Все они были деревянные.
В 1861 и 1869 г. каменная церковь была ремонтирована. В 1871 г. от сильно натопленной печи в каменной церкви произошел пожар. Сгорела часть архива и ризницы. Стены и купола тогда почернели от дыма, и в 1872 г. всю церковь пришлось перекрасить, как внутри, так и снаружи.
Кроме главного храма на кладбище имелась деревянная церковь Всемилостивого Спаса с приделом во имя иконы Божией Матери «Неопалимая Купина» и двухпрестольный храм во имя Святого Духа и Семи Эффесских Отроков (Кекинский), построенный в 1887 г. на средства Алексея Леонтьевича Кекина, а также часовня на почитаемом захоронении странника А. Крайнева.
Митрофаньевская церковь была закрыта и снесена в 1929 г. Еще раньше в 1924 г. был закрыт нижний придел, затопленный водой.