日語的起源一直是一箇爭論不休的問題。在明治時代，日本人曾將日語歸類爲阿爾泰語系，但這一說法已經普遍遭到否定。隨後，不同的學者提出了多種假設，包括認爲日語屬於達羅毗荼語系、漢藏語系、日本-高句麗語系（即扶余語系）、南島語系、壯侗語族等。有一種假設認爲南島語系、壯侗語族和日本語系可以組成南島-臺語門，即認爲三者都有共同的起源。
日本古代不使用文字，至應神天皇時期，漢字從百濟傳入日本。隨後，漢字和漢文化正式大量傳入日本，並對現代日語產生了深遠的影響。唐代時，日本人發明了假名，主要用於女性之間的書寫，而官文仍爲文言文。現代日語中，和語佔36.6%，漢語佔53.6%，西洋語佔近10%。
漢字是表音又表意的文字，而假名則是純粹的表音文字，類似於漢語拼音。假名和漢字的結合，以及外來語的引入，共同構成了現代日語的詞彙和語法。日語的語法結構與漢語有顯著差異，日語中的謂語放在最後，而漢字在日語中更多承擔表意作用，假名則除了表意外，還充當語法成分，表達主動、受動、時態、敬語等多種意義。
因此，可以說日語並非誕生於中文母體，而是通過對中文的大量借用以及結合日本人的說法與書寫習慣，形成了現在的標準日語。日語和漢語是兩個完全不同的語言體系。