Город был основан в XIII веке, когда в 1762 году Петром III был издан Указ, в котором он жалует в вечное потомственное пользование пустопорожний Кобылянский юрт в Войске Донском полковнику Михаилу Себрякову за службу. Данный Кобылянский юрт был расселен в связи с участием в Булавинском восстании.
Вскоре на левом берегу реки Медведица появляется селение, которое уже в конце XIII века носит название слободы Михаила Себрякова. Сам помещик Себряков сначала поселился в селе Николаевка, которое в настоящее время носит название Староселье. И в начале XIX века приказал выселить из Николаевки всех жителей к озеру Деревенскому, находящееся с правой стороны реки Медведицы. Сначала было переселено 50 семей, они жили там, где в настоящее время находится улица Первомайская. И этот поселок стали называть Новая Михайловка, а село Николаевка назвали Старая Михайловка. Вскоре Старая Михайловка получило название Старое село, а в скором времени переименовали Старое село в Староселье. Таким образом нынешняя Михайловка возникла из переселенцев Староселья. И в 1834 году по данным перепеси населения в Михайловке насчитывалось 169 крестьянских дворов. Часть семей помещик Себряков переселил из Тамбовской, Курской, Воронежской и Харьковской губерний. Помещики этих губерний обменивали крестьян на донских лошадей и собак, которых у помещика было в изобилии. Многих крестьях Михаил Себряков выигрывал в карты.
В конце XIX века Михайловка становится волостью Войска Донского и в 1898 году насчитывает уже 385 дворов и 3566 жителей. В конце 1905 года население уже составляло 7500 человек.
В октябре 1905 года в Михайловке вспыхнуло восстание. В начале октября по всей стране начались забастовки рабочих. Железная дорога, телеграф и почта не работали, отказывались работать приказчики и батраки. 20 октября 1905 года было приняло решение о ликвидации волостных и сельских правлений и создать союз рабочих, служащих и крестьян. В 1910 году в Михайловке проживало уже 11000 человек. В 1915 году имелись отделение Русско-Азиатского банка, кредитное товарищество, почтово-телеграфная контора, земская больница, мировой судья, судебный следователь, нотариус, полицейский пристав, 2 церкви, частная гимназия, ремесленная школа, министерское училище, трехклассная женская церковно-приходская школа, 6 кирпичных и 4 кожевенных завода.
В 1917 году в Михайловке сформировалась большевистская группа, в ее главе стоял А. Т. Севостьянов. В 1921 году был образован совхоз «Труд», который стал первым хозяйством области. В 1934 Михайловка преобразована в рабочий поселок.
Постепенно стал меняться и культурный облик поселка. Для подготовки учителей было открыто педагогические училище. Клубы и библиотеки стали доступными для всех жителей. На период 1939 года поселок насчитывал уже 17,7 тыс. жителей. Протяженность улиц составляла 60 км. Жилой фонд составлял 5630 м2. Имелась в поселке баня на 56 человек, 4 парикмахерских, 4 фотоателье, телефонная станция с 130 номерами. За года первых пятилеток расширилась сеть учебных, культурных и медицинских учреждений.
В период Великой Отечественной Войны из Михайловки было мобилизовано более 10 тыс.человек. Михайловка активно принимало эвакуированных людей Ленинграда, Москвы, Харькова и Киева. Их обеспечивали работой, питанием, жильем.
Фашистские войска стремились перерезать железнодорожную линию Москва — Сталинград. В результате бомбежек сгорело множество построек, в том числе, педагогическое училище, здание райкома партии. Осень 1942 года и зиму 1943 года Михайловка была близлежайщим тылом Донского фронта.
В 1948 году Михайловка становится городом районного подчинения. В 1953 году введен в эксплуатацию Себряковский цементный завод, а в 1956 году — шиферный комбинат. В 1961 году город переходит в областное подчинение. Строится множество жилых домов, больниц, образовательных и культурных учреждений,а также промышленные предприятия.
В 2012 году город и район объединены в одно муниципальное образование — городской округ Михайловка.