中国科学院山西煤炭化学研究所的前身是中国科学院煤炭研究室,于1954年在大连中国科学院石油研究所(即现在的中国科学院大连化学物理研究所)挂牌成立。1961年,煤炭研究室扩建为中国科学院煤炭化学研究所并开始向太原搬迁。1978年9月改名为中国科学院山西煤炭化学研究所并沿用至今。
五十多年来,中国科学院山西煤炭化学研究所逐渐由一个只有64人的实验室,发展壮大为从基础研究到工艺过程开发直至产业化的体系较为完备的国立研究机构。截至2008年底,全所在职职工529人,其中科技人员371人,进入创新工程261人,中科院院士1人,博士生导师(包括客座导师)24人,研究员46人,副高职称95人。是经国务院批准的首批博士、硕士学位授予单位,博士后科研流动建站单位,拥有物理化学、材料学、化学工艺及工业催化等专业4个博士点,有机化学、物理化学、材料学、化学工程、化学工艺及工业催化等6个硕士点,1个化学博士后流动站。目前在读的博士研究生166人,硕士研究生129人,在站博士后1人。