Stary cmentarz żydowski w Olkuszu został założony około 1584 r. Był użytkowany aż do początków XX w. Najstarsza znana macewa pochodzi z 1609 r. Cmentarz powiększono na potrzeby gminy żydowskiej w 1648 r. Pogrzebano tu kilka tysięcy osób. Podczas okupacji niemieckiej cmentarz został niemalże doszczętnie zniszczony. Macewy wmurowano w parkan i dziedziniec dawnego Liceum Ogólnokształcącego w Olkuszu. Część z nich wykorzystano do budowy zbiornika przeciwpożarowego i kanału doprowadzającego wodę na Pomorzanach. Po II wojnie światowej cmentarz popadał w ruinę i zapomnienie. Dopiero pod koniec lat 90. XX w. Olkuskie Stowarzyszenie Kulturalne "Brama" objęło patronat nad tym miejscem i rozpoczęło prace porządkowe oraz konserwatorskie.

Cmentarz znajduje się przy ulicy Kolorowej, na niewielkiej polance między domami mieszkalnymi, jednak z zachowaniem należytego odstępu. Przy ponad 30 macewach stoi tablica informacyjna zawierająca kalendarium dziejów olkuskich Żydów oraz krótką historię cmentarza. Można też obejrzeć zdjęcia zaginionych macew. Nagrobki są ułożone w rzędach, większość z nich jest całkiem nieźle zachowana. Pochodzą one głównie z prywatnych posesji na terenie Pomorza, gdzie podczas okupacji były wykorzystywane przy pracach budowlanych.