《江河水》原是東北遼寧南部的一首民間樂曲，最初以聲樂形式出現，名為《江兒水》，其旋律起伏跌宕、動靜有序，符合大自然陰陽交織、和諧統一的規律。
到了上個世紀50年代初，作曲家朱廣慶、王石路和演奏家谷新善、朱長安四人將其改編成雙管獨奏曲，並賦予了新的內容和生命，從而將樂曲名稱改為《江河水》。60年代初，湖北藝術學院的青年教師黃海懷在聽到這首曲子後深受感動，決定將其移植到二胡上，經過他的二度創作，二胡版的《江河水》在1962年誕生。1963年，黃海懷的學生吳素華在「上海之春」音樂節上演奏了二胡版的《江河水》，從而讓這首曲子廣為人知。