Kościół św. Józefa wraz z zespołem dawnego klasztoru Reformatów wzniesiono w stylu barokowym w latach 1679-89. Po pożarze w 1809 r. został odbudowany w latach 1809-29. Kościół jest jednonawowy. Do osobliwości kościoła św. Józefa należą spoczywające w oszklonej trumnie w podziemiach kościoła zmumifikowane zwłoki Teresy Izabeli Morsztynówny, córki wojewody sandomierskiego. Warto zobaczyć przylegający do kościoła, otoczony murem dziedziniec z kaplicami drogi krzyżowej. Sam klasztor jest piętrowy, trzyskrzydłowy i posiada wirydarz, czyli ogród klasztorny.