【由来】
民国元年(1912年)7月1日，设置呼玛厅设治局。民国三年(1914年)1月11日，呼玛厅设治局改为呼玛县。呼玛地名是以黑龙江的一条较大支流，即呼玛河而得名。又称：呼玛尔、库马尔，又称“呼玛尔”、“库玛尔”，系达斡尔语，“高山峡谷不见阳光的急流”之意。
另外，《呼玛县志》记载；“呼玛、呼玛尔、库玛尔，均为蒙语，即“行围前列之人”的意思。呼玛又名古站，是齐齐哈尔通往漠河的一站，称为古站。
【沿革】
此地早在西周至春秋时代属肃慎国；汉至三国为挹娄。东晋太元十一年(386年)鲜卑族在贝加尔湖地区和黑龙江大部分地方建立北魏王朝，居住在黑龙江上游的室韦人(即鄂伦春族人的祖先)隶属于北魏。
隋唐时代，室韦部向隋唐朝廷纳贡。唐贞观四年(630年)唐营州都督薛万淑派人招抚东北诸部，此后，唐在室韦部设都督府，归平卢节度使管辖；契丹天赞五年(926年)灭渤海，室韦部归附契丹；辽在室韦部设节度使，归西路招讨司管辖。
金时，在黑龙江流流域设置蒲与路(也作蒲峪路)万户府进行管理；元时，黑龙江上游，额尔古纳河流域是成吉思汗弟弟哈萨尔家族的世袭封地，呼玛归属于此；明时设奴儿都司，下设诸卫，当时在呼玛县境内设了方山卫。
清入关前呼玛地区由盛京总管统辖，顺治三年(1646年)改为昂邦章京管辖。顺治十年(1653年)从盛京昂邦章京管辖下划出，在原设的宁古塔副都统之上，增设宁古塔昂邦章京，由它管辖。康熙元年(1662年)宁古塔昂邦章京改称宁古塔将军，今呼玛县地为其所辖。康熙二十二年(1683年)，在黑龙江上游呼玛尔河口附近，修建呼玛尔木城，改隶黑龙江将军管辖，属黑龙江副都统辖区。雍正五年(1727年)，黑龙江将军于呼玛尔城设置呼玛尔卡伦。光绪三十四年七月初九日(1908年8月5日)，拟设呼玛直隶厅，驻西尔根卡伦。后因条件所限，缓设。宣统元年(1909年)，于呼玛尔河口设置呼玛尔河总卡官，节制呼玛尔河、依西肯、倭西门、安干、察哈彦、望哈达卡伦。隶属瑷珲兵备道。
民国元年(1912年)7月1日，设置呼玛厅设治局，驻呼玛尔河口(又称“金山口”，今金山乡金山村)。民国三年(1914年)1月11日批准，将呼玛厅设治局改为呼玛县，为二等县。同年7月1日，呼玛县属地倭西门(现在鸥浦公社境内的老街基岛)，设呼玛县佐；漠河监视所及珠尔干监视所管辖地域合并，设置漠河设治局。7月11日，呼玛县知县孙绳武启用“呼玛县印”，隶属黑河道；10月批准，呼玛县署迁至古站(今呼玛镇)。民国四年(1915年)1月，将倭西门卡伦改为呼玛县分驻倭西门县佐。民国五年(1916年)4月，呼玛县署正式移驻古站。
民国六年(1917年)漠河设治局升漠河县，时为丙等县。民国十八年(1929年)2月1日，呼玛县属地倭西门县佐，改为鸥浦设治局。2月14日，将鸥浦设治局改升鸥浦县，为丁等县。同年4月，呼玛县提升为一等县，呼玛、漠河2县由黑龙江省直辖，鸥浦县由黑龙江省黑河市政筹备处管辖。
民国十九年(1931年)“九一八”事变后，日本入侵中国东北。民国二十一年(1932年)3月9日，日本扶植溥仪建立伪满洲国，呼玛、漠河、鸥浦3县初由伪满黑龙江省直辖，康德元年(1934年)12月1日伪满洲国改行帝制，实行地方行政机构改革，将东北划分为十四省，呼玛、漠河、鸥浦3县划属新设的黑河省所辖。民国三十四年(1945年)8月9日，日军溃逃。11日，苏军红军进驻漠河县城；8月13日，苏联红军进驻呼玛和鸥浦县城。同一天，呼玛、漠河、鸥浦3县建立人民政府，隶属黑龙江省管辖。民国三十六年(1947年)3 月，撤销鸥浦县和漠河县，并入呼玛县，呼玛县改隶黑河专区管辖。
1964年8月10日，设立大兴安岭特区(地级)，将呼玛县西部林区划归大兴安岭特区管辖。1967年4月15日，呼玛县革命委员会成立，取代县政府。1970年4月1日，大兴安岭特区改为大兴安岭地区，将呼玛县由黑河地区划归大兴安岭地区管辖。1980年9月26日，撤销呼玛县革命委员会，恢复呼玛县人民政府名称。1981年5月14日，将沿江漠河、兴安、开库康、依西肯公社和十八站公社分别划归新设置的漠河县和塔河县管辖。
