關東軍的到來與日本在中國東北的擴張計劃有關。在20世紀初，日本開始制定其在中國東北的擴張計劃，並於1906年成立了特別委員會來研究這一計劃。該計劃的目標是控制滿蒙地區，並進一步控制整個中國。在第一次世界大戰期間，日本加快了其在中國東北的擴張步伐，並於1915年向中國袁世凱提出了旨在獨佔中國的“二十一條”，其中包括了對中國東北和內蒙古的權益要求。儘管“二十一條”並未得到全部實施，但這一事件表明瞭日本對中國東北的野心。
1900年八國聯軍進北京後，俄羅斯趁機出兵佔領了中國東北全境，並把東北劃入了俄羅斯版圖。清朝政府在與俄羅斯的談判中處於劣勢，不得不向日本請求幫助。日本應中國政府請求，於1904年向俄羅斯開戰，先後派出30多萬日軍到中國東北和俄軍作戰。經過激烈的戰鬥，日本以犧牲14萬日軍生命的代價打敗了俄軍，將東北從俄羅斯手中奪回來並交還給了中國。爲了感謝日本的幫助，中國決定把滿洲鐵路及沿線地區以及旅順、大連等地方劃歸日本管理，並允許日本在東北移民屯田開墾，同時允許日本在東北駐軍，以防範俄羅斯的再次侵略。這就是日本關東軍到中國東北來的原因。
隨着時間的推移，日本在東北的軍事力量逐漸增強。1931年9月18日，日本關東軍發動了“九一八事變”，攻佔了瀋陽，並隨後佔領了整個東北三省。1932年3月9日，日本扶植清廢帝溥儀在長春成立了僞滿洲國，標誌着日本開始全面控制中國東北地區。