合肥市档案馆于1959年12月成立，2008年8月晋升为国家一级档案馆，2022年12月获批全国示范数字档案馆，曾连续四次获得全国档案系统先进集体荣誉称号。

合肥市档案馆为市委直属参公事业单位，内设办公室、保护管理处、征集利用处、科技信息处（电子档案管理处）、档案文化处、组织人事处等6个处室和机关党总支。主要负责依法接收市直单位和其他组织应移交进馆的档案进馆，征集散存在社会上的珍贵档案进馆，开展档案信息化建设、档案文化建设，加强档案保护和开发利用，面向社会开展档案查询服务，是全市爱国主义教育基地、档案安全保管基地、档案利用服务中心、政府信息公开中心和电子档案备份管理中心。

合肥市档案馆新馆于2024年7月正式投入使用，位于合肥市为民服务中心B座（ 前河路与秀山路交口 ），建筑面积约2.1万平方米，整体布局合理，管理手段先进。近年来，合肥市档案馆深入学习贯彻落实习近平总书记对档案工作的重要指示批示精神，认真履行“为党管档、为国守史、为民服务”职责，服务中心大局，服务人民群众，服务产业创新和科技创新，加快档案治理体系、资源体系、利用体系、安全体系建设，着力发挥档案工作存史资政育人作用，为谱写中国式现代化合肥篇章贡献了档案力量。