Rostarzewo powstało we wczesnym średniowieczu, wzmiankowane jest w dokumentach z drugiej połowy XIV w. Pierwszymi właścicielami osady była rodzina Samsonów, która później zaczęła posługiwać się nazwiskiem Rostarzewscy. Bracia Wojciech i Stefan Samsonowie byli fundatorami drewnianego kościoła, który stał się ośrodkiem parafii św. Wojciecha i św. Katarzyny erygowanej przez biskupa Wojciecha Jastrzębca w 1401 r.

Rostarzewska parafia w następnych stuleciach przeżywała okresy wzlotów i upadków. Przed połową XVI w. nową świątynię ufundował ówczesny właściciel wsi Jan Tłocki. Na fali szerzącej się reformacji kościół na kilkadziesiąt lat stał się ewangelickim zborem.

W XVII w. właścicielem Rostarzewa był Krzysztof Żegocki, starosta babimojski. Wzniósł nowy kościół w miejsce starego obiektu. Świątynię zniszczyli Szwedzi w czasie wojny północnej. Odbudowano ją w pierwszej połowie XVIII w., ale znaczny spadek wiernych spowodował jednocześnie likwidację parafii. Przez prawie dwa wieki kościół w Rostarzewie stanowił filię parafii w Gościeszynie.

Od 1746 r. Rostarzewo stało się miejscem licznego osadnictwa olęderskiego i ośrodkiem ewangelickim. Zmiany w strukturze religijnej mieszkańców nastąpiły dopiero po odzyskaniu niepodległości przez Polskę. Wzrost liczby katolików mieszkających w dwudziestoleciu międzywojennym stał się przyczynkiem restytucji parafii w Rostarzewie. Powołał ją w 1925 r. kardynał Edmund Dalbor, tym razem pod wezwaniem św. Józefa.

Po powołaniu parafii rostarzewskiej wierni rozpoczęli budowę nowego kościoła. Ukończono ją w 1929 r. Nowy kościół był halowym obiektem o neobarokowej architekturze. Jego dach zwieńczono sygnaturką. Wejście do kościoła ujęto w dwie kolumny.

Po przejęciu przez katolików po II wojnie światowej zboru ewangelickiego kościół św. Józefa jest świątynią pomocniczą.