沙縣的名字來源主要與當地的地理特徵和歷史變遷有關，其名字來源於沙溪和沙源地。
沙溪是閩江上游的三大支流之一，流經沙溪流域兩岸的沙源地，是沙縣最早設立的建制縣，最初被稱為沙戍。在東晉義熙年間，這一地區被提升為沙村縣，到了唐代，又改為沙縣。
此外，沙溪中存在許多沙洲，古縣村位於河寬水緩與河窄水急的交界處，泥沙積澱作用明顯，因此被稱為「沙源地」。古人以「沙源」這一特徵為名，取「沙」字用於縣名。最初，由於散落在沙溪下游流域的村落尚未形成規模化的城鎮，因此最初稱為沙村縣。隨著時間推移和政區人口的增長，最終在唐代改為沙縣。
此外，沙縣的縣治在唐中和四年（公元884年）遷至沙陽鎮鳳崗山麓，因此沙縣也有別稱沙陽。