春秋战国时,清远地区属百粤。秦统一中国后,设置行政机构,开发岭南,清远地区属南海郡、长沙郡。汉初,属赵佗称号的南越国。高祖年间(前206—195年)先后置桂阳县(今连州一带)、阳山县、浈阳县和含匡县(浈、含今为英德市境),均属桂阳郡。元鼎六年(前111年),置中宿县(原清远县一带),属南海郡。三国时,各县隶属始兴郡。
南朝梁天监年间(502—519)置清远郡,清远之名由此而始,辖中宿、威正、平、恩洽、浮护五县。还置阳山郡,辖阳山、桂阳、广德(后改称广泽、连山)等县。在含匡设衡州,领阳山郡。
隋开皇十年(590年),废清远郡及其所属的中宿等县,置清远县、政宾县(今清新县滨江一带),仍属于南海郡。同时,废阳山郡改置连州,把衡州改名为匡州。二十年(600年),废匡州,其属县改隶广州府。
唐武德六年(623年),政宾县并入清远县,属广州府。天宝元年(742年),连州改置连山郡。五代南汉乾享五年(921年),于浈阳县设英州。
宋宣和二年(1120年),英州改置真阳郡,含匡、浈阳先后改名为含光县、真阳县。庆元元年(1195年),真阳郡升为英德府。元至元十五年(1278年),英德府改为英德路总管府,不久又降为州,并含光、真阳县。庆元元年(1195年),真阳郡升为英德府。明洪武二年(1396年),英德州改置英德县,属韶州府。十四年,连州和阳山、连山二县改属广州府。
清雍正五年(1727年),连州为广东省直隶州,领阳山、连山二县。嘉庆十八年(1813年),由清远、英德两县划地设广东布政司佛冈军民厅(相当于县级建制)。民国元年(1912年)连州改称连县。民国3年,佛冈改厅为县。抗日战争期间,广东省政府北迁连县,清远各县均属广东省第二行政督察区(驻连县)管辖。民国35年,由连山、连县、阳山三县划地,新置连南县。
中华人民共和国成立后,1988年1月7日,国务院批准撤销清远县,设立清远市,原清远县分为清城、清郊两个市辖区(1992年清郊区改为清新县),并划广州市市属的佛冈县和韶关市属的县、阳山县、连山壮族瑶族自治县、连南瑶族自治县、英德县为清远市所属(英德、连县1994年改为县级市)。