Cmentarz żydowski zwany starym lub cholerycznym powstał na obrzeżach Białegostoku w roku 1830-1831 na potrzeby grzebania zmarłych w czasie epidemii cholery. Pochowano tam wówczas w zbiorowych mogiłach od 1000 do 2000 ludzi. Cmentarz został zamknięty w roku 1892 i całkowicie zniszczony podczas drugiej wojny światowej.

W roku 1964 na jego terenie powstało targowisko z halą targową, które funkcjonowało do roku 1992. W roku 1986 wybudowano budynek ZUS, który rozbudowano w roku 2001. Podczas realizacji tej inwestycji wydobyto szczątki ludzkie, które następnie pochowano w 2 skrzyniach w roku 2007 w miejscu ich wydobycia. W roku 2008 uporządkowano teren. Powstał trawnik i granitowe alejki, a w centralnym punkcie posadzono bukszpany w kształcie gwiazdy Dawida.