医院始建于1952年，前身为安徽省第六康复医院(俗称三康医院)。是一所集医疗（含中医）、教学、科研、预防、保健、康复、急救为一体的现代化综合性二级甲等医院。1954年5月正式收治病员，收治对象为志愿军、解放军。当时医院有工作人员297人，设有门诊部及内、外、五官、口腔、助产、针灸、理疗X光室等科室。 

1956年8月更名为安徽省慢性病医院。 
1957年12月成立安徽省立第三医院。 
1958年8月，省卫生厅决定将省立第三医院下放巢县，正式更名为“巢县人民医院”。 
1984年1月，县级巢湖市成立，更名为“巢湖市人民医院”。 
1995年3月，被安徽省卫生厅授予“二级甲等综合性医院”。 
1999年7月，巢湖撤地设市，医院整体上划，更名为“巢湖市第二人民医院（正县级）”。 
2011年8月，随着行政区划调整，医院为合肥市卫生局所属巢湖第二人民医院。 
2013年12月，医院参加安徽省第二批县级公立医院改革，实施药品零差率管理 
2013年医院参加合肥市二级甲等医院复核评审工作，2014年4月16日接到合肥市卫生局通知，经市级专家组评审并经省卫生厅核准，医院顺利通过二级甲等医院复审考核。 
2014年7月23日，根据合肥市人民政府合政秘【2014】121号文件精神，医院更名为合肥市第八人民医院，增挂巢湖市人民医院牌子，巢湖市中医院牌子保留至我院，2016年12月30日，根据合编办【2016】194号文件精神，我院增挂的“巢湖市中医院”牌子更名为“合肥市中西医结合医院”的牌子。 
2017年4月，根据合卫医政【2017】78号文件精神，同意合肥市第八人民医院与合肥市职业技术学院合作建立附属医院。我院增挂“合肥职业技术学院附属医院”牌子。 
2017年10月9日，根据皖卫批【2017】86号文件精神，我院正式被评为省级综合医院中医药工作示范单位。 
2018年3月21日，根据国中医药办医政发〔2018〕4号文件精神，我院正式被评为国家综合医院中医药工作示范单位。 
医院位于巢湖市中心区，全院占地面积5万平方米，建筑面积4万平方米，现有床位编制1000张，设有23个病区、两个分院，36个临床一、二级学科，13个医技科室，24个行管后勤科室。拥有医科达双光子直线加速器、奥林巴斯290高清内窥镜系统、德国西门子1.5T磁共振（含类PET功能）、32排64层螺旋CT机、DR、DSA、数字平板胃肠机、美国GE全身彩超（含心脏专用彩超）、数字乳腺钼靶、肺功能、脑电、肌电、动态心电、血压，血透机（含CRRT），快速冰冻切片机，腹腔镜、胆道镜、前列腺汽化电切镜等系列腔镜，罗氏化学发光仪、全自动酶免分析系统、全自动微生物培养鉴定系统等高新进口医疗设备。 
医院现有在职人员972人，具有高级职称75人，中级职称327人，硕士研究生20人，在职硕士研究生50人、博士研究生1人。巢湖中青年学科带头人2名，省专科护士13人。成功开展了心脏病介入诊疗(冠状动脉造影、起搏器安装)、鼻窦镜、纤维咽喉镜、腹腔镜、ERCP、输尿管镜、气压弹道钬激光碎石、经皮肾镜、前列腺气化电切、宫腔镜、阴道镜和关节镜等系列微创手术。 
以人为本、科技领先、用心服务、追求卓越是我们的办院方针；成为特色鲜明的省内知名医院；成为群众首选的值得信赖的医院是我们的愿景；团结、奉献、创新、攀登是我们的院训；内强素质、外塑形象、诚信服务、质量取胜是我们的竞争理念；认真去做只能合格、用心去做才能优秀；思路决定出路、细节决定成败是我们的工作理念；以病人需求为中心，救死扶伤，尽职尽责是我们的服务宗旨。 
医院现为皖南医学院、合肥职业技术学院教学医院，巢湖市医疗保险定点单位，设有120急救分中心、中国初级卫生保健基金会健康扶贫工程“宫颈癌筛查基地”，加入安徽省立医院网络医院。 
医院长期坚持科教兴院，人才强院的发展战略，经过不断发展，医院在儿科、神经内科等原一批重点学科的基础上，心内科、普外腔镜手术、泌尿外科、ICU、妇产科、内分泌科、康复医学科、麻醉科、肛肠科、中医科等学科发展迅速，成为本院特色及在当地有影响力的学科。麻醉科、普通外科、心内科、中医科肝病被确定为合肥市期医学重点学科。 
医院曾先后获得安徽省文明医院、安徽省防治“非典”工作先进集体、安徽省卫生先进单位、合肥市文明单位。