日本列島上被確認過的人類歷史，大約可追溯到10萬年乃至3萬年前。在約3萬4千年前，從日本列島華北地區傳來被稱呼為小刀型石器的石器，在列島全區被廣泛的使用，但在約2萬年前由西伯利亞過來新的稱呼為細石刀片的石器主要在東日本傳開。

伴隨著從東亞遷入日本的渡來人，日本在彌生時代初期出現陶器、鐵、銅器以及水田等文化，逐漸成為一個農業社會，同時一些如奴國等的小國也開始與中國發展外交關係。

587年，豪族蘇我氏的頭目蘇我馬子擊敗物部守屋，又在592年暗殺崇峻天皇、立女皇推古天皇為帝，聖德太子攝政，日本進入飛鳥時代。

710年，元明天皇遷都平城京，日本進入奈良時代，律令制國家也日益成熟。大和政權的版圖在這時也逐漸擴張，征服東北地方部分地區和南九州。

平安時代末期，出現以東國為勢力範圍的源氏和以西國為勢力範圍的平氏兩個龐大的武家勢力。平氏被趕出京都，將朝廷遷往福原京，之後於1185年在壇之浦之戰中徹底覆滅。

1192年，武家首領源賴朝被封為徵夷大將軍，建立鎌倉幕府，並展開幕府統治，開始日本600多年的幕府時代。

1867年末代江戶幕府將軍德川慶喜迫於情勢主動大政奉還，以明治天皇為首的新政府正式成立，江戶時代結束。

1894年8月1日，中日兩國互相宣戰，甲午戰爭正式爆發。1895年2月，清軍潰敗，清廷被迫派李鴻章代表清廷向日本求和，並以戰敗國身份在日本威逼下籤訂了條件苛刻的不平等條約《馬關條約》。

日本於1910年並大韓帝國入版圖，是為日韓合併；並在第一次世界大戰中投向協約國，向同盟國宣戰，以獲得德國在中國山東半島的殖民地。1914年9月，日本向德國宣戰，發動青島戰役，11月攻佔青島。

1931年，日軍發動九一八事變，入侵中國東北，扶植傀儡國家滿洲國；再於1932年，在上海發動一·二八事變。1941年12月，日軍偷襲夏威夷的美軍基地珍珠港，並正式向美國、英國和荷蘭宣戰，同時開始進軍東南亞等太平洋地區。

從1945年9月2日戰敗到1952年4月28日《舊金山和約》生效期間，日本被盟軍軍事佔領，由美軍為首的駐日盟軍司令部（GHQ）統治，實行財閥解體政策，對壟斷資本進行大規模重組；日本除了失去所有屬地，也暫時被迫移交小笠原諸島與琉球（原沖繩縣）予美國軍政管理。

進入21世紀初期，日本經濟透過往新興市場出口出現小波段復甦的伊邪那美景氣，但是2008年發生全球金融海嘯，索尼和豐田等指標性大企業紛紛出現巨大虧損。