Definitivní zánik židovské obce nastal za 2. světové války v roce 1942, kdy byli kosohorští Židé deportováni do nacistických koncentračních a vyhlazovacích táborů, kde všichni zahynuli. Po skončení války se židovská obec již neobnovila.

Synagoga byla postavena na přelomu renesance a baroka, okolo roku 1630. Po velkém požáru v roce 1697 byla obnovena a znovu přestavěna v roce 1741.

Další stavební úpravy se odehrály v letech 1826 a 1856. V této podobě se zachovala až do 80. let 20. století, kdy byla již v naprosto dezolátním stavu a probíhalo jednání o její demolici. Tomu se podařilo zabránit a celý objekt byl postupně zrekonstruován.

Současný vzhled vychází ze stavebního a restaurátorského průzkumu, který synagoze vrátil barokní podobu s částečným respektováním úprav z 19. století.

V roce 2007 bylo založeno občanské sdružení Synagoga Kosova Hora, které si dalo za cíl získání finančních prostředků na obnovu bývalé modlitebny a zřízení stále expozice z historie synagogy, zdejší židovské obce a židovských obcí v širším regionu. V roce 2011 byla synagoga otevřena veřejnosti.