【由来】
隋仁寿元年（601年）避太子杨广讳，因境内东南有黄连山雄障一方，而将广泽县改称连山县。据《今县释名》：“县南有黄连山，峰峦连络，多草木。旧志，山产黄连”，故名。因县内有壮、瑶、汉等族，1962年改称连山壮族瑶族自治县。
【沿革】
连山置于南朝梁天监五年（506年）始称广德县，为扩大德治之意，属衡州阳山郡，县治在今吉田古县坪。
隋朝开皇十年（590年）改广泽县，意为“广得朝恩”。仁寿元年（601年）避太子杨广讳，因境内东南有黄连山雄障一方而改称连山县，属熙平郡。
唐朝天宝元年（742年）升为连山郡，隶属岭南道。乾元元年（758年）复为连山县，属连州；大历三年（768年）改属广州。
南宋绍兴六年（1136年）废县为镇。十八年（1148年）县治移程山下（即今水丰司城）改称程山县，又属连州。
元至元十五年（1278年）县治迁回原址复称连山县，仍属连州；元贞二年（1296年）改属英德府。
明洪武二年（1369年）连州的州治移连山县，同年将连州和阳山县并入连山县，属韶州府；次年改属广州府。洪武十三年（1380年）复置阳山、连山县。永乐元年（1403年）县治再称程山下。天顺六年（1462年）县治迁象山前小水坪（即今太保旧城）。
清嘉庆二十一年（1816年）升为连山直隶厅，设连山绥瑶直隶军民同知驻连山城，并建同知行署于三江，以理“连阳”瑶务。
民国元年（1912年），废旧制中府、厅、州为县，于是连山直隶厅复为连山县，直属广东省军政府；民国十七年（1928年）改属广东省北区善后公署，民国三十一年（1942年）县境东部瑶山（共5大排瑶族）析出同相邻其他排瑶①，新设连南县，同属广东省第二行政督察公署，民国三十五年（1946年）县治迁永和圩。
1949年12月属韶关地区（先称北江行署，后改粤北行署，再改韶关行署）。1953年2月连山、连南两县并为连南瑶族自治区（县级），一年后又复为连山、连南县。1958年5月撤销连山县，成立“连山壮族瑶族自治县”，但尚未实施，同年10月撤销连县、连山、连南、阳山四县，设置连阳各族自治县；次年复设阳山县改为连州各族自治县。1961年10月恢复连山、连南、连县。1962年3月恢复连山壮族瑶族自治县，同年9月26日县人代会宣告自治县正式成立。1967年1月自治县治迁吉田莲花坪，新县城定名为吉田镇，1983年6月地市合并，连山属韶关市管辖。1988年2月从韶关市划出隶属清远市。
【注释】
①排瑶，清代对广东连南、连山两县部分瑶族村寨的别称，瑶族人自称藻敏。因为瑶族人所住村寨称为“排村”，故名排瑶。
