W sierpniu i wrześniu 1914 roku, po wkroczeniu Strzelców do Kielc, w Pałacu Biskupów Krakowskich znajdowała sie kwatera główna Józefa Piłsudskiego oraz mieściły się m. in. biuro werbunkowe, drukarnia, intendentura.

Tablica pamiątkowa mówiąca o pobycie w Pałacu Biskupów Krakowskich, Marszałka Józefa Piłsudskiego znajduje się po prawej stronie loggii pałacowej. Tablicę wykonaną z piaskowca, autorstwa kieleckiego rzeźbiarza Wincentego Skuczyńskiego, wmurowano w 1936 roku. Po II wojnie światowej władze PRL-u wymazując patriotyczną historię, tablicę zamurowały. Została ona odkryta przypadkowo, w połowie lat osiemdziesiątych, podczas remontu logii. 

Obok, nad wejściem do pałacu, znajduje się podłużna tablica wykonana z "marmuru" chęcińskiego, ze słowami wypowiedzianymi przez Marszałka (22 stycznia 1920, przemówienie z okazji wprowadzenia Orderu Virtuti Militari): "Rzeczą żołnierza jest stworzyć dla Ojczyzny piorun, co błyska, a gdy trzeba uderzy". Tablicę tą umieszczono nad wejściem w latach 30-tych.

W Pałacu mieści się też Sanktuarium Marszałka Józefa Piłsudskiego, uroczyście otwarte w 1938 roku. W okresie II wojny i po - zdewastowane. Odtworzono je w 1990 roku.