Kompleks budynków powstał po południowo-wschodniej stronie miasta na nieużytkach ks. misjonarzy i pijarów, przy ówczesnym trakcie warszawskim. Początkowo utworzono park krajobrazowy w stylu angielskim "z mnóstwem rzadkich drzew i roślin". Na terenie parku w latach 20. XIX w. powstał kompleks budynków wg proj. Karola Krauze. Składał się z baszty, kaplicy, domku dozorcy i pałacyku.

Zachowana czworoboczna baszta z przybudowaną okrągłą wieżą miała mieścić bibliotekę wojskową. Na zwieńczeniu baszty z krenelażem znajdował się taras widokowy. W ścianę wieży wmurowano elementy epigraficzne z zamku prymasowskiego. Po II wojnie światowej przeszło 30 lat mieściła się tu Komenda Hufca ZHP. W latach 90. XX w. obiekt został przejęty przez władze miasta, następnie sprzedany.

Po przeciwnej stronie, przy ul. Pałacowej pobudowano pozostałe obiekty kompleksu. Znajduje się tu siedziba generała w formie neogotyckiego zameczku (pałacyku) z okrągłą wieżyczką. W ścianach zbudowanych z cegły i rudy żelaza wmurowano elementy lapidarne z zamku m.in. herby prymasów Przerembskiego i Dzierzgowskiego. Obecnie w pałacyku mieści się Galeria Malarstwa Współczesnego Zofii i Romana Artymowskich oraz izba pamiątek po gen. Stanisławie Klickim. Inne obiekty romantycznego zespołu architektonicznego: domek dozorcy i kaplica usytuowane zostały w parku za pałacem, w ich ściany również wmurowane są elementy lapidarne.

Gen. Klicki był uczestnikiem walk o niepodległość - od obrony Konstytucji 3 maja do powstania listopadowego - oraz dowódcą dywizji strzelców konnych w Królestwie Polskim. Sztab dywizji stacjonował w Łowiczu. Przy parku od strony zachodniej powstało Pole Marsowe dla ćwiczeń i uroczystości wojskowych.

Autor: Zdzisław Kryściak