В 1878 году напротив детского убежища была заложена домовая церковь. Она была построена на деньги купца В.В. Кривцова. Церковь построили сравнительно быстро, и уже спустя два года освятили в честь Воздвижения Креста Господня. Внутренние убранства нельзя назвать скромными, так как только в главном иконостасе в три яруса имелись тридцать три иконы. А так же имелись всевозможные фрески, красивейший алтарь и довольно редкие иконы.
Начиная с 1919 года церковь становится приходской. В через три года советская власть изымает отсюда около восьми килограммов серебра. А в 1930 году церковь была закрыта, снесены купола и колокольня, так как колокольный звон был признан противником советской власти. После закрытия религиозной организации, в этом здании стали располагаться всевозможные мастерские, сменяющие друг друга.
И только с распадом СССР церковь вновь открыли и начали реставрацию. С 1994 года она преобразовалась в Крестовоздвиженского мужского монастыря, коей и является по сей день. И только в 2000 году был возведён купольный барабан, взамен утраченного 70 лет назад.