Найдавнішим некрополем в древньому Острозі, який існував ще якихось пів століття тому був єврейський цвинтар. Він вистояв в епохи воєн, пережив німецьку окупацію, але був безжально знищений радянською владою десь в 1967 році. На місці єврейських могилок було закладено парк з танцмайданчиком, а з самих надгробків брукували доріжки у військовій частині та психлікарні. Це кладовище було закладене в 40 – х роках  XVI століття. Воно розміщувалося за міською горою на пагорбі площе до 6 гектарів.У фондах Острозького історико – культурного заповідника збереглися фотографії з цього кладовища, серед них знімки пам'ятників XVI – XVII ст. На острозькому кладовищі знайшли свій спочинок багато відомих вчених, релігійних і громадських діячів, торговців, ремісників. Тут були поховані Шломо бен Еліезер, Йоіл Гельперн, Давид Шмилевич, Хаїм Горовіц та багато інших відомих в Острозі і не лише в ньому, євреїв . 


 В 1632 році помер головний равин, ректор єшиботу, видатний вчений Середньовіччя, філософ та астролог Самуель Едельс (Моршуе). Незабаром на його могилі було встановлено пам'ятник. Цікаву легенду щодо нього залишив в своїх записах краєзнавець Пантелеймон Юрьєв. За його оповіддю на могилі Моршуе стояв великий чорний камінь. В одну дощову ніч в нього вдарила блискавка і розколола його навпіл, в середині була товста золота жила. Зібране золото було розпродане набожними євреями, а на виручені гроші спорудили новий пам'ятник. Його виготовили з білого мармуру, в ньому поєднувалося художнє оформлення верхньої частини та епітафія в нижній. Пам'ятник близько 200 років був місцем постійних паломництв євреїв зі всього світу.
На цьому ж цвинтарі був похований  Менахем Мендель Бібер (1848 -1923). На могильному написі був висічений такий напис: «Уродженець Острога, наш учитель і наставник Менахем Мендель Бібер, син Аріе Лейбуша Бібера. Світла йому пам'ять. Дослідник історії, уважний до людей. Вчитель і керівник школи. Він написав дві книги. Він наша гордість і слава!» . 
Зараз на місці єврейського цвинтаря парк. Посеред парку також стела, на якій давньою єврейською мовою написано, що на цьому місці був цвинтар. Цвинтар частково відновлений.