Edirne’ye 1492’de sürüldükleri İspanya’dan ve sonraki dönemlerde Portekiz’den gelen Yahudiler, burada kendi cemaatleri için sinagoglar kurarlar ve zamanla bunların sayısı 13’e ulaşır. 1903 yılında yaşanan büyük yangınla tüm sinagoglar tahrip olur. Bunun üzerine Yahudiler dönemin Padişahı Sultan II. Abdülhamit Han’a başvururlar. Sultan Abdülhamit Han da tüm küçük sinagogların yerini alacak tek bir büyük havra yapımı için 1906 yılında ferman verir. Bu ferman üzerine 1906 yılında başlayan inşaat 1907 yılında sona ermiş ve adı da Büyük Sinagog konmuştur.

Fransız mimar France Depré tarafından 600 erkek ve 300 kadını barındırabilecek büyüklükte inşa edilen sinagogun yanında bir haham lojmanı ve Yahudi cemaati için bir okul inşa edilmiştir.

Yahudi cemaatinin Edirne’den ayrılışları hız kazanınca ilgisizlik ve bakımsızlık sürecine giren havra, 1995 yılında Vakıflar Bölge Müdürlüğü’nün mülkiyetine geçer. 5 Ocak 1997 tarihinde ise çökerek ön cephesi dışında tamamen yıkılmıştır. Sinagogun mülkiyeti 1995 yılında Vakıflar Genel Müdürlüğüne geçti. Sinagog 2010 yılında Vakıflar Genel Müdürlüğünün kararı ile restorasyona alındı ve 26 Mart 2015 tarihinde devlet temsilcileri ve Yahudi Cemaati fertlerinin katılımıyla yeniden kullanıma açıldı. Açılışta ve açılışı takiben Sinagogda yapılan ilk düğünde Sefardik Musevi gelenekleri uyarınca "Anoten" duası edildi.