Pierwszy mielecki cmentarz powstał wokół kościoła św. Mateusza, lecz został zlikwidowany na podstawie dekretu cesarza Józefa II z 1784 roku. Nowy założono nad Wisłoką prawdopodobnie w latach 1792-1795. Kapryśna i nieuregulowana rzeka zbyt często niszczyła teren cmentarza i w związku z tym już w bezpiecznej odległości, na niewielkim wzniesieniu w latach 1860-1870 utworzono cmentarz parafialny funkcjonujący do dziś.

Za głównym wejściem znajdują się kwatery zbiorowe powstańców styczniowych, żołnierzy z I wojny światowej oraz żołnierzy niemieckich. Centralną część nekropolii zajmuje zespół grobowców. Uwagę zwraca grobowiec inż. Andrzeja Kędziora - posła na Sejm we Lwowie, Ministra Robót Publicznych oraz posła do Sejmu i Senatu RP. Nieopodal mieści się kaplica cmentarna z 1889 roku wzniesiona przez dwie rodziny mieleckie, Piechocińskich i Ratusińskich. W sąsiedztwie mogił żołnierzy niemieckich znajduje się figura Chrystusa Frasobliwego w stylu ludowego baroku z drugiej połowy XIX wieku. Całość cmentarza otoczona jest murem, a nastrój spokoju i powagi podkreślają liczne stare drzewa pochylające się nad grobami.