Pierwszy cmentarz w gminie żydowskiej znajdował się koło synagogi. Nie jest znana data jego założenia, choć wiadomo, że funkcjonował do 1792 roku, kiedy to władze, kierując się względami sanitarnymi, nakazały przeniesienie wszystkich cmentarzy poza miasto. Cały teren cmentarza został z czasem zabudowany. Nowy kirkut w Annopolu został założony w pobliżu starego, na powierzchni ok. 0,33 ha. Również nowy cmentarz został zniszczony podczas drugiej wojny światowej, a dewastacja postępowała także w okresie późniejszym. W ostatnich latach wykonano na cmentarzu prace porządkowe - zbudowano ogrodzenie i skromny pomnik poświęcony ofiarom Holocaustu.