太原地处山西省腹部，位于东经111°30′至113°09′和北纬37°27′至38°25′之间。专市区座落于海拔800米的汾河河谷属平原上。太行山雄居于东，吕梁山巍峙于西，云中、系舟二山合抱于北，晋中平原展布于南，汾水自北向南纵贯全境。
太原市东、西、北三面环山，中、南部为河谷平原，整个地形北高南低呈簸箕形。
东部山地通称东山，是太行山的延续，一般海拔在1000米至1500米之间，主峰罕山海拔1591米；西部山地为吕梁山东翼，海拔1600米上下，主峰北云顶山海拔2659米，为本境最高峰；北部系舟山。海拔1800米，是汾河与滹沱河的分水岭，也是忻定、太原两盆地的界山。其间的石岭关与天门关，号称“北门锁钥”，古为兵家必争之地。东西山之间是太原盆地，海拔在 800米左右，地势平坦，土壤肥沃，灌溉方便，农业发达。