Cmentarz, wpisany do rejestru zabytków w 1986 roku, znajduje się przy ulicy Dworcowej. Na cmentarzu pochowanych jest okolo 200 żołnierzy niemieckich i rosyjskich, poległych podczas I wojny światowej. Po wojnie cmentarz był cmentarzem komunalnym, od 1961 roku jest nieczynny. Został uporządkowany i wyremontowny z inicjatywy Piskiego Stowarzyszenia Niemieckiego Miasta i Regionu Pisz "Roś" przy pomocy niemieckiej organizacji Volksbund Deutscher Kriegsgraberfursorge (Niemiecka Komisja Grobów). Po uporządkowaniu cmentarza w 2004 roku w znajdującej się tu kaplicy postawiono krzyż jako symbol pojednania. Cmentarz nosi nazwę "Park Pokoju".