太原盆地的形成與地質構造運動密切相關。
在地質學上，太原盆地屬於新生的斷陷盆地，其地質發展經歷了三個重要時期：
早前寒武紀的五台—呂梁構造期，殼幔分異、克拉通化，並形成了結晶基底。
中生代燕山構造期，形成了西部南北向的呂梁復背斜、北部北東向的五台復背斜、東部南北向的太行復背斜的構造格局。
新生代喜馬拉雅構造期，E2-E3時期形成了NNE向拉張構造；N1-Q1時期形成了EW向拉張構造；Q2後進入新構造期，在此構造背景的特徵下，地貌上隆起斷塊崛起成山，陷落斷塊形成盆地。
此外，遠古時代的太原地區是一片大湖，即海子，水域面積達到5000平方千米，深度超過800米，後來在治水過程中，大禹採取了疏導的策略，通過打開靈石石膏山的缺口，控制了湖水，從而根治了水患，形成了今天的太原盆地。