Скит основали наместники Свято-Троицкой Сергиевой Лавры архимандрит Антоний (Медведев)и митрополит Московский Филарет (Дроздов) в 1844 году. Через три года блаженный схимонах Филипп при ските было основал Пещерное отделение и собрал пещерную братию. Скит располагается около 3,5 км к северо-востоку от Лавры. В православной традиции скитами было принято называть уединенные жилища монахов-отшельников. В 1852 году скиту была передана в дар Черниговская икона Божией Матери, с которой связан ряд чудес. По имени чудотворной иконы скит стал называться Черниговским.
В 1950-е годы Гефсиманский скит был отдан в распоряжение военного ведомства, некоторые строения — взорваны, иконы уничтожены, а на месте скитского кладбища построили многоэтажный учебно-административный корпус, который существует и по сей день. На территории Черниговского скита располагались склады, военная часть, тюрьма, интернат для инвалидов Отечественной войны. В 1990г. скит вернули Православной церкви. В настоящее время в этом священном месте ежедневно совершаются богослужения, его двери открыты для посещения.