Рядом со старым православным и еврейским некрополями имеется караимское кладбище, возникшее в середине XIX века, после Крымской войны. Пребывание в городе с начала XIX века значительной по численности караимской общины обусловило появление национального некрополя. Самое раннее захоронение, выявленное во время его обследования, датируется 1863 годом. В начале XX века на средства мецената купца Иосифа Бурназа соорудили дом для сторожа и здание для отправления обрядов, снесённые в 1999 году при строительстве бензоколонки. Мемориальные доски, установленные на здании, отреставрированы, хранятся в фондах Музея героической обороны и освобождения Севастополя, а на территории кладбища смонтировали их копии. Кладбище закрыли 1 марта 1965 года. До 1 апреля 1969 года захоронения караимов производились на городском кладбище, а после его закрытия - на других некрополях города.
На караимском кладбище выявлено 715 могил, 15 типов надгробий. Имеются склепы, надписи на древнееврейском и двуязычном - русском и древнееврейском языках. Присутствуют и кенотафы - надгробия установленным лицам, захороненным в других местах (т.н. «йолд таш» - дорожный камень). Среди них - партизану И.М. Юткевичу и последнему газану общины - Т.С. Леви-Бабовичу, который, выехав из Союза, умер и похоронен в 1956 году в Египте.
Караимское кладбище - один из немногих национальных некрополей ХIХ-ХХ веков, типичный образец кладбищенской архитектуры этого времени.