雲的形成主要是由於空氣中的水蒸氣受熱上升，當升到一定高度後，遇到較冷的空氣，就會凝結成小水滴或冰晶，形成雲。雲的高度，即雲底，主要取決於兩個因素：溫度的垂直廓線和水汽含量。溫度的垂直廓線是由幹絕熱減溫率決定的，而水汽含量則與地面的相對溼度有關。地面相對溼度越高，水汽越接近飽和，雲底高度越低，因此我們看到的雲就越近。當相對溼度達到100%時，雲底接觸地面，就形成了霧。
此外，雲的形成還與地形有關。例如，在冬季的雲貴高原，由於地形的作用，冷空氣的抬升減弱，使得冷空氣團被迫壓低，因此在貴州一側的雲就可以很低。類似的還有南嶺北側的湖南，這兩個省份的雲經常被低雲覆蓋，天空灰白。
在城市中，由於汽車尾氣等空氣污染，空氣中的水汽與顆粒物結合，形成霧。但白天氣溫高時，霧會消散，不再能上升到空中變成雲彩，因此城市的雲顯得較少。