Pierwszy w Nowym Sączu kirkut znajdował się nieopodal synagogi . Obecny utworzono końcem XIX wieku przy ul. Tarnowskiej z wejściem od ul. Rybackiej. Jest on ogrodzony murem. Płyty nagrobne zwane macewami ułożone są zgodnie ze zwyczajem żydowskim w stronę południowo – wschodnią a więc w stronę Jerozolimy. Znajdują się na nich wyryte gwiazdy Dawida oraz napisy w języku hebrajskim.

Do końca XIX wieku na macewach znajdowały się tylko imiona zmarłych z czasem zaczęto podawać również nazwiska. Na macewach znajdują się także płaskorzeźby symbolizujące znaczenie zmarłego w społeczności żydowskiej. Podczas II wojny światowej hitlerowcy używali macew jako materiału budowlanego oraz do brukowania sądeckich ulic.

Na cmentarzu macewy w przeważającej części zostały ponownie postawione po 1945 roku. Ze starych grobowców zachował się grób zmarłego cadyka – cudotwórcy Robbe Chajima Halberstama do którego pielgrzymują Żydzi chasydzi z całego świata w rocznicę jego śmierci. W latach okupacji podczas II wojny światowej cmentarz był miejscem masowych mordów ludności żydowskiej jak również Polaków.  18 VI 1959 roku odsłonięto pomnik upamiętniający ofiary a na nim wyryty tekst „ Ofiarom hitlerowskiego barbarzyństwa i bohaterom walki o wolność na rodu polskiego 1939- 1945r”.