Zlokalizowany jest w północno-wschodniej części miasta, zamieszkanej dawniej przez szydłowieckich Żydów.
Do czasu powstania gminy żydowskiej w Bodzentynie, służył również tamtejszym Żydom. Kirkut jest jednym z największych cmentarzy mozaistów w Polsce. Zachowały się liczne stele nagrobne tzw. macewy, zdobione płaskorzeźbami przedstawiającymi symbole odnoszące się do pochodzenia i życia zmarłych. Cmentarz jest obecnie rozległym lapidarium gromadzącym około 3000 nagrobków.