吴甘露元年(265年) 从含洭县析出桃乡复置阳山县。期间 分出桂阳郡南部置始兴郡，属荆州(治在曲江)，领曲江、始兴、桂阳、含洭、阳山、浈阳、中宿等县。吴时 《读史方舆纪要》略称今连山西部已置尚安县，属始兴郡。

建武二年(26年)桂阳郡太守卫飒在含洭、浈阳、曲江至郴县一带凿山通道500余里，列亭传，置邮驿，取消原征发民船接送官差的徭役制度，令山民与平民租赋减轻。建安三年和十九年(198年与214年)桂阳郡先后成为刘表和孙权的辖地。

高祖三年(公元前204年)赵佗建立南越国，自称南越武王。市境以阳山关为界，关以南为南越国所据，关以北属中原政权西汉管辖。文帝年间(公元前179~164年)分长沙郡南境置桂阳郡，领桂阳(今连州、连南、连山地)等7县。

始皇二十六年(公元前221年)统一中国，分全国为36郡，今连州、连南、连山及阳山县北部属长沙郡。三十三年 平定百越后置南海郡、桂林郡和象郡，市境三连(连州、连南、连山)及阳山县北部仍属长沙郡，其余地方属南海郡。

市境均属楚，但未设置行政管理机构。其时，在今阳山县境有阳禺小国，是岭南原始部落联盟发展的产物。

1927年12月3日凌晨，清远农军和花县农军三百余人，从葫芦岭出发，攻打清远县城。最终获得胜利，升起代表工农武装的斧镰旗。图为20世纪八九十年代的葫芦岭，位于现东城街道清城区行政文化中心办公大楼后的凤城公园西面山岗。

1988年1月7日，国务院批准撤销清远县，设立清远市（地级）及清城、清郊两个市辖区（县级），市委、市政府暂设在原清城镇；将广州市所辖的清远县、佛冈县和韶关市所辖的英德县、阳山县、连县、连南瑶族自治县、连山壮族瑶族自治县划归清远市管辖