Музей появился в 1916 году благодаря инициативе вице-губернатора Л. А. Сенько-Поповского. Сначала его содержание осуществлялось за счет добровольных пожертвований заинтересованных людей. С приходом Советской власти он получил статус краеведческого. В годы ВОВ почти вся экспозиция была утеряна и разграблена, небольшую часть коллекции удалось вывести в Тбилиси. Но уже в 1944 году музей снова открылся для посетителей.