Храм был заложен в 1701 году на территории Жилой слободы, где, в основном, расселились солдаты Белгородского полка. В основном они и занимались строительством при поддержке мирных жителей, поэтому возведение храма шло быстрыми темпами. В 1701 году Петр I пожертвовал на строительство храма 100 рублей, а приложенная записка от императора хранилась в алтаре и демонстрировалась только знатным гостям.
В 1759 году храм сильно пострадал от пожара, но был заново отстроен. До 30-х годов прошлого века храм работал постоянно, но после с него были сброшены кресты, а внутри расположилась тюрьма. Во время репрессий людей расстреливали прямо у стен храма, а позже этим занимались немецкие оккупанты. Во время реставрации храма было найдено множество костей и черепов, каждый 10-й из которых был детским.
В военное время подвал храма служим бомбоубежищем. После войны там расположился хлебзавод. В 1998 году храм передали Белгородско-Старооскольской епархии, сейчас он располагается на территории Марфо-Мариинского женского монастыря и составляет с Покровской церковью единый храмовый комплекс.