Pomnik pierwotnie ustawiony był na dzisiejszym Placu Wolności, obecnie znajduje się na jednej z alejek starego cmentarza ewangelickiego. Wystawiono go ku czci żołnierzy pruskich, którzy polegli podczas wojen prusko-austriackiej i prusko-francuskiej, które stoczone zostały w 1866 r. i w latach 1870-71. Fundatorami tego pomnika byli sami mieszkańcy Olecka, kamień węgielny pod budowę położono 8 lipca 1884 r., a uroczystego odsłonięcia dokonano już 14 sierpnia 1884. Do końca II wojny światowej przetrwał on w niezmienionej formie, stojąc w tym samym miejscu, zmiany nastąpiły dopiero w 1947 r.
Gdy ówczesne władze uchwaliły, aby uczcić stałą wyzwoleńczą Armię Radziecką, postanowiono w tym celu przerobić właśnie ten pomnik. W tym celu zamurowano napis w podstawie, skuto płaskorzeźbę, a pruskiego orła zastąpiono orłem PRL-owskim, czyli wówczas orłem pozbawionym korony. W latach 90., gdy nastąpiły zmiany ustrojowe, zaczęto również bacznie przyglądać się wyrazom pamięci powstałych po wojnie.
W 2000 r. na miejscu dawnego Pomnika Wyzwolenia postawiono Pomnik Wdzięczności, co spowodowało rozebranie dawnej konstrukcji, w skład której wchodził również pomnik postawiony tu pierwotnie, czyli ten poświęcony żołnierzom pruskim. Początkowo elementy zdemontowanego pomnika przechowywane były najpierw na terenie jednej z gminnych spółek, jednak już wkrótce znaleziono dla niego nowe miejsce. Dzięki współpracy miasta Olecka z ziomkostwem niemieckim postanowiono przywrócić dawną formę pomnika i zarazem wyznaczyć nową lokalizację. W ten sposób na wydzielonym terenie dawnego cmentarza wyznaniowego 25 października 2003 r. dokonano uroczystego ponownego odsłonięcia.
Pomnik posiada dokładnie taki sam kształt jak w 1884 r., jest kolumna, na której umieszczono tablicę z napisem w języku niemieckim, płaskorzeźbę, a całość wieńczy figura orła z rozpostartymi skrzydłami, wszystko ogrodzone jest pięknie kutym płotkiem. Napis na tablicy umieszczonej u podstawy cokołu w polskim tłumaczeniu brzmi: „Dla upamiętnienia żołnierzy z powiatu Olecko poległych w sławnych wyprawach wojennych 1866 i 1871 roku”.