Żydzi w okresie międzywojennym w Nowym Dworze Mazowieckim stanowili ponad połowę mieszkańców. Cmentarz został założony w XVIII w. Wraz z najazdem okupanta hitlerowskiego rozpoczęła się eksterminacja narodu żydowskiego. Synagoga i kirkut zostały zniszczone. Płyty nagrobne zostały użyte do budowy chodników.

W 1941 r. w dzielnicy Piaski w obrębie ulic Nałęcza, Warszawskiej, Mazowieckiej i Piaskowej zostało utworzone getto przez nazistów dla Żydów Nowego Dworu Mazowieckiego oraz przesiedleńców z Czerwińska, Wyszogrodu, Zakroczymia i innych miejscowości. W dniu 12 grudnia 1942 r. getto zostało zlikwidowane, a wszyscy jego mieszkańcu zostali wywiezieni do obozu koncentracyjnego Auchwitz.

W 2006 r. zostały przeprowadzone pierwsze prace porządkowe, a w 2011 r. teren kirkutu został ogrodzony. W dniu 14 lipca 2011 r na terenie nekropoli został odsłonięty pomnik ku czci nowodworskich żydów, który powstał z macew.