1958年9月，为支援安徽、建设安徽，苏州建筑工程学校324名师生、沈阳计划经济学校4名教师来到合肥，与安徽省建筑厅干训班179名师生共同组建了安徽建筑工程学校，时址位于合肥市青年路东陈岗（现徽州大道）。

1960年9月，经国务院批准，合肥工业大学土木系（学生89人、教师7人）并入，正式成立安徽建筑工业学院，郭沫若先生亲题校名。

1961年，因国家遭遇经济困难，安徽建筑工业学院撤销，原合肥工业大学师生被抽回，选升的两个专科班挂靠安徽工学院继续完成学业。

1962年，安徽省人委决定，撒销安徽建筑工程学校。东陈岗校址由解放军一〇四医院接管，学校余部迁往安徽交通学院。

1963年4月，安徽省人委决定，保留安徽建筑工程学校。

1964年8月，学校迁往凌大塘（原省建六处新预制厂，现东流路江淮汽车集团宿舍区），设置工业与民用建筑、建筑材料检验两个专业，同年恢复招生。

1969年，学校教职工下放大别山区。

1971年，安徽省基本建设局决定将安徽建筑工程学校与省基建局技工学校合并，成立安徽省基建局建筑工程学校，校址位于技工学校所在的金寨路（现学校北校区）。

1972年，学校设置工业与民用建筑、水泥工艺两个专业，并从1973年开始招收工农兵学员。

1976年10月，“文革”结束。省委决定在安徽建筑工程学校设合肥工业大学安徽建校教学点，设置工业与民用建筑专业，1977年首批招收本科生40人，于1978年春季入学。

1983年3月，经安徽省人民政府批准，合肥工业大学安徽建校教学点更名为合肥工业大学建筑分校，时任安徽省委书记黄璜亲题校名

1986年12月30日，国家教委批准恢复安徽建筑工业学院。

1998年11月，学校通过教育部本科教学工作合格评价。

2002年，学校新校区建设。

2005年，学校启动土建类专业评估。

2006年1月，学校新增工程力学、材料学、结构工程、市政工程、城市规划与设计5个硕士学科授权点。

2007年，学校接受教育部普通高校本科教学工作水平评估，获优秀等次。 

2011年9月，入选第二批卓越工程师教育培养计划高校。

2013年3月，教育部同意安徽建筑工业学院更名为安徽建筑大学，同时，撤销安徽建筑工业学院的建制。

2016年3月，安徽省人民政府与住房和城乡建设部在北京签约，共同支持安徽建筑大学。