Улица расположена на Центральном холме, ранее называлась Соборной, в 1921 году была переименована в Пролетарскую, в мае 1950 года получила имя великого русского полководца.
С января 1905 года П.П. Шмидт снимал квартиру во флигеле дома по улице Соборной, 14. Известно, что двухэтажный флигель стоял во дворе дома, на второй этаж с улицы вела деревянная лестница. Именно на эту квартиру 14 ноября 1905 года в одиннадцать часов утра прибыли члены военной организации, предложившие лейтенанту Шмидту возглавить восстание на Черноморском флоте. И неисправимый романтик, человек чести, рыцарь без страха и упрёка, прекрасно понимая, что восставшие будут обречены на поражение, не остаётся в стороне и в тот же день отправляется на «Очаков», приняв
на себя командование революционными кораблями. Дом на Соборной улице и флигель, к сожалению, не сохранились. В 1963 году на здании, построенном после войны, установили мемориальную гранитную доску с барельефом П.П. Шмидта и посвятительным текстом. Автор - скульптор А.Р. Сухая.