Cmentarz Stary jest najstarszym z kieleckich cmentarzy. Nie ma dokładnych danych o roku jego powstania, ale można przyjąć, że było to w latach 1801-1805. Założony został na terenie byłego folwarku biskupiego Psiarnia, przy trakcie do Chmielnika.

Wcześniej zmarłych chowano na cmentarzu kolegiackim - przy katedrze, cmentarzu przy kościele św. Wojciecha (pierwsza wzmianka o nim już w XII w.), a także przy kościółku - kaplicy św. Leonarda (już nieistniejącym przy obecnym Pl. Moniuszki).

Cmentarz poszerzano kilkakrotnie (w latach 1818 w kierunku wschodnim, 1860-62 w stronę południa, wg projektu A. Dunina i 1882-1884 wg proj. Franciszka Kowalskiego - otoczono wówczas murem od strony Ściegiennego), zasadniczy jego rozwój przestrzenny nastąpił w 2 połowie XIX wieku, a spowodowany został zapełnieniem jego powierzchni. W 1926 roku zaprzestano jego poszerzania. Stało się to przyczyną założenia nowego cmentarza w dzielnicy Piaski.

W 1980 r. Wojewódzki Konserwator Zabytków w Kielcach uznał cmentarz Stary w Kielcach za zabytkowy. W strefie ścisłej ochrony konserwatorskiej znalazły się kwatery parzyste od nr 4 do 14. Ochroną objęty został układ przestrzenny, drzewostan oraz nagrobki i kaplice postawione do 1939 r. na terenie całego cmentarza.