2-я гвардейская армия сформирована в октябре 1942 года, прошла боевой путь от Сталинграда до Восточной Пруссии. Весной 1944 года приняла активное участие в освобождении Севастополя под командованием генерал-лейтенанта Г.Ф. Захарова. 9 мая 1944 года воины 2-й гвардейской армии освободили Северную сторону и, форсировав Севастопольскую бухту с частями 51-й и Приморской армий, освободили Севастополь.
Уже 15 мая на мысе Кордон, где когда-то располагался 28-й пост таможенной (кордонной) стражи, воины 2-й гвардейской армии заложили памятник. Вместе с ними трудились почти все жители Северной стороны. Проект памятника разработал участник боёв за Севастополь А.К. Чанкветадзе, увековечив высотой обелиска -1944 см - год освобождения города.
Открыли его 27 мая 1944 года. На памятнике помещены Приказ Верховного Главнокомандующего с объявлением благодарности войскам 4-го Украинского фронта об освобождении Севастополя и посвятительные тексты: «В груди великого города будет вечно биться сердце русской славы» и «Гвардейцам Героям Севастополя 9 мая 1944 от бойцов, сержантов, офицеров и генералов 2-й гвардейской армии». Обелиск увенчан макетом ордена Славы. По углам стилобата, на котором покоится памятник, установлены четыре обелиска меньшего размера. В 1993 году памятник Славы был реставрирован по проекту архитектора А.Н. Холодилова.
У памятника имеется братская могила, в которой похоронены Герои Советского Союза: К.Г. Висовин, И.В. Дубинин, Я.А. Романов, А.Н. Соценко, погибшие 9 мая 1944 года.