山西大学创办于1902年（清光绪二十八年），最初称山西大学堂，设中学专斋和西学专斋，由英国人李提摩太和山西巡抚岑春煊共同创办。校址在太原市侯家巷（现太原师范专科学校）。
民国元年（1912年）初改名为山西大学校。
民国七年（1918年）确定为国立山西大学。
1931年改名为山西大学，抗战期间，曾迁至晋南、陕西三原、秋林等地，于1937年至1939年停办。
1949年春，中国大学理学院并入山西大学。中华人民共和国成立初期，山西大学设有文、理、医、工、法五个学院，进步学者邓初民任校长。山西大学法学院法律系于1949年并入北京大学。
1952—1953年，全国高校进行院系调整，山西大学院系调整如下：
①取消山西大学建制；
②文、理两院（含中文、历史、外语、教育、数学、化学、生物7个系及中文、史地、数学、理化、生物、体育5个专修科）合并，改称山西师范学院；
③工学院（含土木工程、采矿工程、冶金工程、化工工程、机械工程、电机工程、纺织工程7个系）中冶金工程系参与组建新成立的北京钢铁工业学院（今北京科技大学），纺织工程系和采矿工程系并入西北工学院（今西北工业大学）；工学院其余部分（机械工程、电机工程、土木工程、化工工程4个系）独立建校，后发展成为太原理工大学。
④医学院（含医学系）独立建院（今山西医科大学）；
⑤法学院改称财经学院（含经济、工商管理、会计3个系），后划归入中国人民大学；
1954年，山西师范学院（山西大学前身）由太原市侯家巷迁入太原市坞城路。
1959年，再度恢复山西大学建制。
1961年，与山西师范学院合并，仍定名为山西大学。
1962年，山西体育学院、山西艺术学院并入山西大学。
1998年，成为山西省重点大学。
2001年，山西大学成立研究生学院。
2002年5月，学校举行建校100周年庆典大会。时任联合国秘书长安南发来贺信，感谢山西大学对联合国的支持。
2005年5月，成为山西省唯一一所由山西省人民政府与教育部共同重点建设的省部共建大学，是我国最早一批省部共建大学。
2008年11月，学校与亚美尼亚“布留索夫”埃里温国立语言大学组建埃里温国立语言大学孔子学院。
2009年11月，学校与美国北卡州费佛尔大学联合组建费佛尔大学孔子学院
2011年6月，山西大学研究生学院正式更名为“山西大学研究生院”。
2012年5月，入选“中西部高校基础能力建设工程”高校。
2012年11月，成为山西省唯一一所国家“中西部高校综合实力提升工程”入选高校，进入“一省一校”国家建设有特色、高水平大学的新平台。
2013年9月13日，山西省发展和改革委员会发布“关于山西大学东山校区项目建议书（总体规划）的批复”，标志着山西大学东山校区的建设已通过政府的审批。
2014年2月，太原电力高等专科学校并入山西大学，成为山西大学大东关校区。
2015年1月28日，学校“极端光学协同创新中心”成立。
2017年6月，学校被认定为山西省首批省级双创示范基地。
2017年8月，学校入选教育部“高校教师考核评价改革示范校”。
2018年，在省部共建和“一省一校”建设基础上，学校成为教育部和山西省政府合建的部省合建高校。
办学条件
院系专业
据学校官网2018年5月信息显示，学校有32个学院（系）、以及1个独立学院、1个继续教育学院和国际教育交流学院，涵盖哲学、经济学、法学、教育学、文学、历史学、理学、工学、农学、医学、管理学、艺术学等全部学科门类，设93个本科专业以及10个本科双学位招生专业。
| 院系设置 |
|---|
山西大学初民学院 | 山西大学文学院 |
山西大学历史文化学院 | 山西大学哲学社会学学院 |
山西大学政治与公共管理学院 | 山西大学外国语学院 |
山西大学教育科学学院 | 山西大学经济与管理学院 |
山西大学法学院 | 山西大学数学科学学院 |
山西大学计算机与信息技术学院 | 山西大学物理电子工程学院 |
山西大学化学化工学院 | 山西大学生命科学学院 |
山西大学环境与资源学院 | 山西大学体育学院 |
山西大学音乐学院 | 山西大学美术学院 |
山西大学继续教育学院 | 山西大学国际教育交流学院 |
| 山西大学软件学院 | 山西大学环境工程系 |
| 山西大学自动化系 | 山西大学电子信息工程系 |
| 山西大学电力工程系 | 山西大学工程管理系 |
| 山西大学土木工程系 | 山西大学动力工程系 |
| 附属机构 |
| 山西大学附属中学 | 山西大学附属小学 | 山西大学附属幼儿园 |
独立学院 |
山西大学商务学院 |
联合办学 |
| 山西大学生物工程学院 | 山西大学职业技术学院 |
毕业证书编号规律：
毕（结）业証书编号即为注册号，使用阿拉伯数字，统 一规范为18位。
（一）普通、成人高等教育毕（结）业証书注册号由学 校或其他教育机构按以下顺序编排：前5位为学校或其他 教育机构的国标代码；第6位为办学类型代码；第7至10 位为年份；第11至12位为培养层次代码；第13位至17位 为学校对毕（结）业証书编排的序号。2002年学历证书 编号扩充至18位(但当年有部分高校仍使用17位)。
（二）高等教育自学考试及高等教育学历文凭考试毕业 证书注册号，由各省（自治区、直辖市）高等教育自学 考试委员会按以下顺序编排：第1位为办学类型代码；第 2位为培养层次代码；第3、4位为省（自治区、直辖市） 国标代码；第5、6位为地（市）国标代码；第7、8位为 县（区）国标代码；第9、10位为年度代码；第11位为上 、下半年考试考次代码；第12至16位为准考证序号代码 ；第17位为校验代码。
（三）办学类型代码：普通高等教育1；成人高等教育5 ；高等教育自学考试和高等教育学历文凭考试6；网络教 育为7。
（四）培养层次代码：博士研究生01；硕士研究生02； 第二学士学位04；本科05；专科（含高职）06。
毕业证分类、打印规则、相片要求、签名章：
统招毕业证书：97年以前全是手写的,97年以后，陆续打印。相片从98以后，全部是彩色。成人教育毕业证书：2001以前，全部手写，相片黑白，2001年后，全部打印，相片彩色 。 自考毕业证书:2003以前自考,发证机关,都是省教委发放的样本。2000年左右毕业证的相片大多是红色的背景， 06,07年以后才要求是蓝色背景。校长签名章的种类从外形上区分有二大类,即方章,条章,八十年代九十年代基本上都是方章,二千年左右开始出现条章,现在校长签名章是方章条章并存!校长签名章在使用时候又分红蓝两种颜色,八十年代九十年代基本上都是红色,二千年左右开始出现蓝色,现在蓝色使用多过红色了!
