水晶的形成通常起源於一個飽和的溶液或熔融態，在這種狀態下，溶質（形成水晶的物質）與溶劑（通常是液體）之間的濃度達到平衡。然後通過增加溫度、降低壓力或調整化學成分等方式，使溶液或熔融態處於過飽和狀態，此時溶質的濃度超過了溶解度限制，進而形成微小的結晶核，這些結晶核是起始水晶生長的種子。一旦結晶核形成，溶液中溶質會逐漸沉積在結晶核表面，並延伸出規律的晶體結構，形成明顯的晶體外形和內部結構。具體來說，水晶的形成離不開大量的水分和豐富的矽質礦物，還需要合適的溫度和壓力。天然水晶多是在地底下、岩洞中形成，地下水又多含有飽和的二氧化矽，同時需要在大氣壓的兩三倍左右，溫度則需在550℃到600℃左右，再需要適當的時間，水晶就會依著六方晶系的法則結晶成六方柱狀的水晶。
此外，有些水晶是在火山區火山口形成的蒸汽中成長的，含有硫磺成分。還有的水晶形成於水性溶液中，或與地面表層的有機體共生，經歷物理和化學風化作用的過程而生成。除了天然水晶，還有人工合成的水晶，是人為採用水熱結晶法而製成的，將天然矽礦石和一些化學物質放在高溫高壓釜內，經歷兩至三個月製成。