山西地处黄土高原东部，平均海拔南部约830余米，向北渐高至1666米，素有“表里河山”之誉。由于深受断层作用影响，70%以上的地貌为山地和丘陵区，主要山脉有太行山、五台山、太岳山、吕梁山等山系。太行山形如卧弓，南起黄河北岸，北端与恒山、五台山相连；五台山最高峰约3166米，为山西之巅，以佛教圣地而闻名于世，山间流泉汩汩，万涧交注，庙宇楼阁隐没在苍松翠柏中，尽显佛光仙气；太岳山主峰在霍县（今霍州市）东南，山脉向南与中条山相连，向西至永济与华山遥遥相接。群山间形成一连串陷落盆地，自东北向西南依次分布着大同、忻定、太原、临汾、运城五大盆地，盆地海拔也顺次从1000米降至250米。这些盆地土质肥沃，拥有较为丰富的地下水与山泉水，是山西最为重要的农耕区域。汾河是山西境内最大河流，全长250余公里，发源于海拔2333米的山西北部宁武管涔山，向南流经阳曲、平遥、霍县、临汾至曲沃县西转，经新绛过河津西边入黄河。另有漳河、桑干河、涑水、三川河等10余条主要河流以及大小不等的诸多支流沟谷，汇水面积在100平方公里以上的河流共有240余条。不过，由于地处高寒，山西属大陆性气候，全年雨量较小，河水水势很弱，河