Przy pl. ks. Jana Skarbka (dawny pl. Kościelny) w latach 1928-1930 został wybudowany prostokątny, parterowy, murowany budynek przeznaczony na synagogę. Obecnie jest to jedyna ocalała synagoga na terenie Oświęcimia. Synagoga główna, znajdująca się przy ul. Berka Joselewicza, została przez Niemców spalona we wrześniu 1939 r. a następnie zburzona w 1941 r. W tym samym roku została zburzona także synagoga przy ul. Głębokiej. Na ścianach synagogi zachowały się dwie marmurowe tablice spisane w języku hebrajskim (wotywna z 1907 r. i erekcyjna z 1928 r.).

Mała synagoga (w 30% zniszczona) w czasie hitlerowskiej okupacji była wykorzystywana na magazyny wojskowe. Bezpośrednio po wyzwoleniu, w styczniu 1945 r. została przywrócona do swojej pierwotnej funkcji. Po opuszczeniu Oświęcimia przez zamieszkałych tu w latach 1945-1947 kilkudziesięciu Żydów, budynek został skomunalizowany stając się własnością gminy miejskiej. W 1997 r. oświęcimska synagoga stała się pierwszą budowlą zwróconą społeczności żydowskiej na mocy ustawy o restytucji majątku żydowskiego.

Od 8 listopada 1999 r. budynek synagogi był poddany renowacji prowadzonej z ramienia fundacji Żydowskie Centrum Edukacyjne w Oświęcimiu. Remont budynku został zakończony 26 lipca 2000 r. a 12 września tego samego roku synagoga została uroczyście otwarta na potrzeby kultowe i edukacyjne. Dalsze działania związane będą z utworzeniem - w budynku przylegającym do synagogi - Centrum Edukacyjnego.