Музей был создан в сентябре 1894 года. В сооружении старой Городской Думы музею было выделено три комнаты. На момент появления, в музее насчитывалось примерно 2400 объектов.
В 1911 году переехал в дом бывших интендантских складов. Позднее, к 1941 году фонд музея насчитывал 100 тысяч объектов. Военные годы оставили свой значительный убыток: некоторые экспозиции были утрачены, а часть осталась в местностях эвакуации.
Музей продолжил своё функционирование в 1943 году. Отдельное здание получил в 1959 году. Главные коллекции повествуют о истории Воронежского края. Здесь находятся помещения, отображающие эпоху возведения флота Петром I.
Музей имеет 4 выставочных зала. Само здание музея — это памятник архитектуры 20 века. Оно действовало как губернская школа для невидящих детей в 1902-1904 годах. В отделах музея располагается коллекции фарфора, фаянса, стекла. Здесь же находится отдел с экспозициями (документы, оружия, награды), которые рассказывают о событиях в Воронеже во время войны (1941-1945 годы).