天然磁石的形成與地球內部的磁場有關，它是由某些天然物質中具有的鐵磁性礦物所構成，例如磁鐵礦。磁鐵礦是一種氧化鐵礦物，以其顯著的磁性而聞名，小顆粒的磁鐵礦可以被磁鐵吸引。磁鐵礦中的一種特殊類型，稱爲集磁鐵礦，可以作爲天然磁石使用。天然磁石的特殊結構成分使其主要產生於岩漿岩和變質岩中，有時也在海濱沙中存在。
磁石產生磁性的原理與鐵、鎳、鈷等金屬元素有關，這些元素由帶有負電荷和磁矩的電子構成。當電子的自旋方向相同時，會形成一箇磁性體。當磁性體放置在外部磁場中時，其自身的自旋方向會進行調整，以更好地適應外部磁場，從而形成磁力線和磁性。
具體到天然磁體的磁性來源，可以歸結爲磁體中不停旋轉的物質。磁鐵礦的主要成分是四氧化三鐵，由氧化亞鐵和氧化鐵結合而成。在自然狀態下，氧化鐵分子通常不旋轉，而氧化亞鐵分子爲了在周圍物質中趨向平衡會不停地旋轉，從而產生磁性。當天然磁體靠近鐵磁性物體時，其磁力會使鐵磁性物體中的鐵磁性物質同向旋轉，進而相互吸引。