Cmentarz został założony w XVII w, północno-zachodniej części miejscowości, poza obszarem zabudowanym, u zbiegu dzisiejszych ulic Staszica i Wjazdowej. Z czasem wzniesiono na nim dwa budynki, z których jeden pełnił funkcję domu pogrzebowego. W 1925 r. jego powierzchnia wynosiła 2 ha.

II wojna światowa 

Podczas okupacji na cmentarzu Niemcy dokonywali egzekucji Żydów i Polaków, między innymi więźniów z aresztu przy ul. Jatkowej.

     Na polecenie niemieckiego zarządcy miasta Żydzi zostali zmuszeni do rozbijania nagrobków. Pozyskany w ten sposób kamień wykorzystano do prac budowlanych, między innymi do budowy tuczarni dla świń (Folwark pod Setką - na zdjęciu) czy też wieży w Modliszewicach. Odłamki powyrywanych macew do dziś znajdują się podmurówce wielu budynków przy ul. Piłsudskiego. Część wykorzystano również jako krawężniki przy wybudowanej przez hitlerowców obecnej ul. Partyzantów.