Mimo, że pierwsze oficjalne wzmianki o Żydach w Olsztynie pojawiają się dopiero w 1780 r., gdyż wcześniej ich osadnictwo na tych ziemiach nie było możliwe, to jednak należy przypuszczać iż sporadycznie przedstawiciele tej społeczności docierali tu na jarmarki już w średniowieczu. Jednakże mimo , że po wspomnianym roku 1780 Żydzi mogli się już osiedlać w Prusach Wschodnich, to jednak nie było możliwe posiadanie przez nich statusu mieszczan, co w konsekwencji zmuszało ich do zamieszkania poza murami miejskimi. Ta sytuacja związana z osadnictwem zmieniła zaczęła się zmieniać u schyłku wojen napoleońskich, a wszystko diametralnie zmieniło się po tzw. edykcie tolerancyjnym w 1813 r., i w tym też roku do miasta ściągnęli pierwsi Żydzi. Najliczniej i na początku głównie przybywali z terenów Prus Zachodnich, później także z Królestwa Polskiego. Znamienny jest fakt, że już w roku 1814 powstał pierwszy sklep żydowski założony przez braci Simonsonów.
Ta nowa dla Olsztyna społeczność bardzo szybko rosła, w 1816 r. diaspora liczyła już 60 osób.W przypadku tej grupy, jakże odmiennej etnicznie, logiczne jest fakt że zachowanie swojej tożsamości ściśle związane jest z zżyciem religijnym. W 1819 r. założono pierwszą bożnicę, znajdowała się ona przy ul. Prostej prawdopodobnie w mieszkaniu prywatnym, natomiast pierwsza synagoga powstała w 1825 r. Wybudowano ją u zbiegu obecnych ulic Okopowej i Hugo Kołłątaja, swoją rolę spełniała przez blisko 40 lat po czym w latach 70 – tych XIX w. budynek został sprzedany i przeznaczony na cele mieszkaniowo – handlowe. Fakt ten podyktowany rozrostem gminy, pod koniec XIX w. Żydzi stanowili prawie 3% mieszkańców miasta ale i trzeba nadmienić o wzroście zamożności jej członków, to wszystko zmuszało do rozpoczęcia przygotowań znalezienia terenu pod budowę nowej świątyni, znacznie większej niż poprzednia.
Nowa synagoga została zbudowana i oddana do użytku w 1877 r. przy obecnej ul. Grunwaldzkiej na parceli którą za kwotę 1500 marek zakupiono od parafii ewangelickiej. Nowa synagoga wzorowana była na świątyni znajdującej się w Wiedniu, zaprojektowanej przez Ludwiga Förstera, różnica polegała na tym, że synagoga w Olsztynie łączyła wątki mauretańskie i neogotyckie. Obok tego obiektu w latach 1906 – 07 wybudowany został żydowski dom starców i dom gminy żydowskiej. Działalność tej synagogi trwała nieprzerwanie aż do 1938. W nocy z 9 na 10 listopada, czyli podczas tzw. nocy kryształowej świątynia została zdewastowana i podpalona, ofiarą bojówek padły wtedy również wszystkie sklepy żydowskie. Niestety nie był też to koniec prześladowań; na przełomie 1940 i 1941 r. przeprowadzono spis wszystkich Żydów, by później w wspomnianym żydowskim domu starców stworzyć nieformalne getto.. Tu przetrzymywani byli do jesieni 1941 r., następnie wywożono ich i uśmiercano w nieznanych dotąd miejscach.
W miejscu gdzie kiedyś stała synagoga ul. Grunwaldzkiej obecnie stoi wielorodzinny budynek mieszkalny przylega on do Sali gimnastycznej wybudowanej na fundamentach żydowskiego domu starców. Jedyny ślad po tych obiektach to zachowane schody prowadzące niegdyś z ulicy do budynku oraz licowana skarpa z reliktami ogrodzenia. Zupełnie inaczej potoczyły się losy pierwszej synagogi; budynek wielokrotnie przebudowywano a w 1992 r. została rozebrano i wybudowano ponownie nawiązując bryłą stylistycznie i architektonicznie do pierwotnego wyglądu. Po II wojnie światowej, mimo podejmowanych prób, gmina żydowska nie odnowiła się już w Olsztynie.