Находилось в верховьях Старо-Северной балки, вблизи от Михайловской батареи, от которой и получило своё название.
Некрополь возник в ноябре 1854 года в период первой обороны Севастополя. Вначале он именовался Западным, в отличие от Восточного (Братского) и предназначался в основном для погребения моряков. На Михайловском кладбище были похоронены защитники Отечества - блестящие морские офицеры, составляющие гордость и славу Черноморского флота: лейтенант И.Л. Батьянов, георгиевские кавалеры - лейтенант А.Г. Иванушкин и капитан 2 ранга князь И.В. Ширинский-Шихматов, семь с половиной месяцев командовавший артиллерией пятого бастиона, лейтенанты Е.И. Викорст и И.С. Яновский, капитан-лейтенант Н.Я. Остапов, лейтенанты С.Ф. Юрьев и И.Н. Варницкий, капитан-лейтенант П.Н. Кондогури, братья Василий и Петр Чистяковы, капитан 1 ранга Н.Ф. Юрковский, смертельно раненный на Малаховом кургане, братья Михаил и Пётр Скаловские...
После Крымской войны захоронения на Михайловском кладбище продолжались. Известны захоронения иерея Карпа Васильева 2 апреля 1866 года, капитана корпуса флотских штурманов Ф.М. Степанова (06.01.1870 г.).
Могилы офицеров находились в центре кладбища. По краям в братских могилах хоронили нижних чинов.
В мае 1868 года Симферопольская инженерная дистанция разработала проект благоустройства кладбища: приведение в порядок братских и одиночных захоронений, посадку деревьев, устройство дорожек. Кладбище имело форму неправильного семиугольника длиной 250 метров и шириной около 110 метров.
В июне 1877 года на Михайловском кладбище в братской могиле погребли моряков с парохода «Веста», а в отдельной могиле - подполковника корпуса морской артиллерии К.Д. Чернова. С этого времени кладбище иногда стали называть и Вестинским.
В период первой мировой войны на этом некрополе в братской могиле похоронили пять моряков с эскадренного миноносца «Лейтенант Пущин», погибших 16 октября 1914 года в бою с германо-турецким крейсером «Гебен»; в 1915 году - контр-адмирала В.И. Галанина. 20 октября 1916 года в Севастопольской бухте затонул линкор «Императрица Мария». 216 моряков из 228 погибших во время взрывов на линкоре похоронили также на Михайловском кладбище.
Появились новые братские могилы в период революционных событий и гражданской войны: 14 декабря 1917 года - 18 красногвардейцев 1-го Черноморского отряда, погибших под Белгородом, 15 февраля 1918 года - 27 матросов, павших на Дону. В апреле 1919 года здесь же погребли революционных французских моряков, расстрелянных 20 апреля по приказу французского командования во время демонстрации на улице Большая Морская.
В 1912-1920 годах в юго-восточной части Михайловского кладбища хоронили лётчиков Качинской военной школы. По воспоминаниям старожилов, до войны на нём имелось около 20 могил лётчиков, на которых были установлены своеобразные надгробия - деревянные с медной окантовкой пропеллеры с самолётов. Последний из них, снятый с безымянной могилы, хранится в фондах Музея героической обороны и освобождения Севастополя.
На Михайловском кладбище были похоронены: А.В. Закуцкий (1912 г.), подпоручик В.А. Альбокринов и рядовой А. Сонин, разбившиеся в марте 1912 года, поручик Гартман - военный лётчик Севастопольского крепостного авиационного отряда (апрель 1914 г.), штабс-капитан Д.Г. Андреади, совершивший один из первых перелётов Севастополь - Одесса - Петербург, штабс-капитан Ф.Ф. Леон и штабс-капитан В.Н. Яниш (январь 1912 г.), первый пилот в России из рядовых - Д. Семишкуров...
В период второй обороны Севастополя на территории кладбища появились новые захоронения защитников крепости. Некрополь в годы войны сильно пострадал и нуждался в реставрации. Но у города было много иных проблем, бездействовал и Черноморский флот. Некрополь постепенно приходил в запустение и разрушался. Завершающий удар нанесли ему в середине 1980-х годов, когда решением исполкома Севастопольского горсовета территорию кладбища отдали под застройку жилыми домами. Там же построили и школу. Уцелевшие памятники перенесли на Братское кладбище на Северной стороне: контр-адмиралу В.И. Галанину, морякам эскадренного миноносца «Лейтенант Пущин», капитану 1 ранга Н.Ф. Юрковскому, капитану 2 ранга М.М. Коцебу, поручику Андрею Ессиповичу - без перезахоронения.