1950年5月，成立阳泉矿务局医院。

1958年12月31日，更名为矿区人民公社中心医院。

1965年7月，更名为阳泉矿务局医院。

1989年，在贵石沟新区开始筹建矿务局二院（原名贵石沟分院），1991年正式开诊。1994年二院接收原局属五矿、第二工程处、第三工程处等3所矿处医院归并，成为隶属于原矿务局医院的全局第二所综合医院。1995年更名为阳泉矿务局第二医院。

1997年，阳泉矿务局企业改制为阳泉煤业（集团）有限责任公司。同年3月，将原隶属于各矿、厂、处的六所医院，即一矿、二矿、三矿、四矿、机厂及工程处6所医院划归总医院实行医院集团系统化管理。

1998年2月28日，更名为阳泉煤业（集团）有限责任公司总医院。

2005年，根据区域医疗卫生规划及医疗服务的实际需要，撤销了机厂医院，四矿医院也进行缩编调整。亚美医院划归阳煤总医院，实行对口管理。

2006年5月，按照阳煤集团深化企业内部医疗机构改革重组的决定，原三矿、一矿、工程处３所医院合并成立阳煤集团第三医院；原二院更名为阳煤第二医院；二矿、四矿及亚美3所医院仍归阳煤总医院。

2009年1月1日，原所属阳煤集团第三医院的一矿医院、工程处医院划归总医院。阳煤总医院成为包括总医院及下属的一矿、二矿、四矿、工程处、亚美5所医院的大型综合型三级甲等医院。
2012年7月1日，原所属总医院的一矿医院，划阳煤集团第三医院。

2014年11月1日，原所属总医院的二矿医院与阳煤集团职业病防治所合并，成立阳煤集团职业病防治院，归阳煤集团卫生管理部管理。

2019年8月31日，山西阳煤总院医疗管理有限公司成立（完成机构注册登记），阳煤总医院、第二医院、第三医院、职业病防治院及总医院四矿医院、工程处医院及亚美医院纳入医疗管理公司实行集团化管理。

2019年12月28日，阳煤集团与通用环球医疗集团有限公司（简称“环球医疗”）在太原阳煤大厦举行合作签约仪式——环球医疗正式成为山西阳煤总院医疗管理有限公司控股股东。