Erstmals erwähnt werden in Frankenhausen lebende Juden während der Pestpogrome im Jahr 1349, als sie wie in anderen thüringischen Orten auch, verfolgt, vertrieben oder ermordet wurden. Historische Unterlagen im Stadtarchiv, die noch vor 1864 von Pfarrer Friedrich Adolf Dinkler (1799–1879) dazu ausgewertet werden konnten, stehen uns heute nicht mehr zur Verfügung. Demnach wohnten sie damals in der »Gasse hinter der Oberkirche«, die deshalb den Namen »Judengasse« getragen haben soll.

Die bereits zuvor ohne Wohnrecht in der Stadt weilenden Juden gaben bereits um 1830 eine Thora-Rolle in Auftrag. Ihren Gottesdienst hielten sie anfangs in den Wohnungen ab, bevor sie um 1845 in einem Haus in der heutigen Erfurter-Straße einen Raum für ihre Gottesdienste einrichten konnten. Von etwa 1860 an bis nach 1933 nutzten sie dafür dann größere Räume in den Häusern Bornstraße Nr. 65 und Nr. 63. Einen eigenen Religionslehrer oder gar Rabbiner besaß die jüdische Gemeinde nur zeitweilig. Dafür war die Gemeinde, zu der die jüdischen Familien in Frankenhausen und im benachbarten Esperstedt gehörten, zu klein.

Im Jahre 1864 betrug der Anteil der Juden an der Bevölkerung schwarzburg – rudolstädtischen Unterherrschaft Frankenhausen 0,88 % und sank von da an kontinuierlich. Im Jahre 1913 lebten in Frankenhausen 21 Juden und in Esperstedt 1 Jude. Die religiöse Betreuung lag hauptsächlich beim Rabbiner der jüdischen Gemeinde der benachbarten schwarzburgischen Residenz Sondershausen.

Gleich Angehörigen anderer Glaubensbekenntnisse erfolgte ihre staatsbürgerliche Gleichstellung mittels dem Gesetz, »die Unabhängigkeit des Genusses und der Ausübung der bürgerlichen und staatsbürgerlichen Rechte« , vom 17. Januar 1868. Hiernach waren alle staatsbürgerlichen Rechte vom religiösen Bekenntnis unabhängig. Das Gesetz wurde von Fürst Albert von Schwarzburg-Rudolstadt in Kraft gesetzt und ist von seinen Ministern Hermann Jakob von Bertrab (Katholik) und Johann Albert von Ketelhodt (Lutheraner) maßgeblich ausgearbeitet worden.

In der Ersten Hälfte des 19. Jahrhunderts ließen sich die wenigen, in Frankenhausen verstorbenen Juden, auf dem Schlachtberg oberhalb der Stadt begraben. In Esperstedt lag die Begräbnisstätte nördlich, außerhalb des Dorfes. Im Jahre 1850 erwarben die Frankenhäuser Juden ein Grundstück im Napptal nördlich der Stadt und richteten den heute noch vorhandenen Friedhof ein. Nach Sondershausen und Immenrode ist er der drittgrößte jüdische Friedhof im heutigen Kyffhäuserkreis. Auf ihm fanden vereinzelt auch Juden aus anderen Orten wie Artern oder Esperstedt ihre letzte Ruhestätte. Unbehelligt von Verwüstung blieb der weit abseits der Stadt gelegen Friedhof auch im 19. Jh. nicht. Bereits 1884 kam es zu einer erheblichen Beschädigung der Grabstätten.