「子弟兵」這一稱謂最初源於中國古代，指的是由領兵將帥率領的本鄉本土壯勇所組成的軍隊，例如項羽的江東子弟兵，以及南宋時期的岳家軍、明朝的戚家軍等。這些部隊通常與親屬鄉土關係有關，因英勇善戰而揚名。
在現代，「子弟兵」成為了人民對自己軍隊的親切稱呼。這個稱呼的發展與聶榮臻元帥在晉察冀敵後抗日根據地的貢獻密切相關。1937年11月，聶榮臻在晉察冀地區創建了第一個敵後抗日根據地，並著手擴大人民武裝力量。在此過程中，出現了許多帶有地域特色的部隊名稱，如「阜平營」「回民支隊」「靈壽營」「平山團」等。1939年5月，聶榮臻發布通令，表彰平山團作戰英勇，將其稱為「捍衛民族、捍衛邊區和捍衛家鄉的優秀的平山子弟兵」，這是「子弟兵」一詞首次用於稱呼黨領導下的人民武裝力量。
隨著晉察冀抗日根據地的發展，「子弟兵」這一稱呼不僅體現了部隊擔負的任務與民眾切身利益的緊密結合，也象徵著軍民之間的深厚情感。戰士們保衛家鄉即是保衛邊區、保衛祖國。著名民主人士李公朴在1940年訪問晉察冀後，對其進行了高度評價，稱「子弟兵是老百姓的兒子」，這一稱謂隨後成為我黨領導下的革命武裝的親切稱呼，並一直沿用至今。