Заложен в 30-е годы XIX века, вначале назывался Малым (в отличие от Большого, ныне Исторического), во второй половине XIX века - Мичманским. В это время вход на бульвар со стороны Морской улицы (сейчас пр. Нахимова) был обозначен чугунными воротами, которые фланкировались каменными тумбами с изваяниями лежащих львов из белого мрамора. У южного входа имелся павильон, построенный в псевдомавританском стиле, о котором упоминает Л.Н. Толстой в «Севастопольских рассказах». Предположительно автором проекта павильона является архитектор А.П. Брюллов, который проектировал здание Общего собрания флагманов и капитанов. Оно было построено в классическом стиле в 1847 году. Находилось на месте мемориальной стены в память героической обороны Севастополя 1941-1942 гг. Во время Крымской войны в здании размещался Главный перевязочный пункт, в котором работал Н.И. Пирогов. В последние дни 349-дневной обороны города оно было разрушено, а в 1887 году на его месте построили новое здание Морского собрания (сильно пострадало в годы Великой Отечественной, разобрано).
В 1921 году бульвар стал называться Военморов, в 1928 году его переименовали в Краснофлотский, после войны - в Матросский. В 1989 году проведена реконструкция лестницы, ведущей на бульвар, по проекту заслуженного архитектора Украины И.И. Медникова. На Матросском бульваре находятся два памятника: А.И. Казарскому и бригу «Меркурий», а также «В честь 100-летния изобретения радио А.С. Поповым».