說到最早的日本人，其實並沒有確切的考證。

據日本史書《神武紀》記載，“神武天皇”於公元前660年建國，成為日本第一代天皇，而且也不一定真實。日本在我們南北朝(420年～589年)的時候才開始有自己記錄的歷史所以說日本發展非常的晚。日本的大發展要追溯到公元701年，建立真正意義的律令制國家，大量的遣唐使來到長安，學習唐朝，阿倍仲麻呂就是其中最有名的一位。

由於沒有記載，日本的古史基本不可考，只能依靠中國史書。

倭在韓東南大海中，依山嶋為居，凡百餘國。自武帝滅朝鮮，使驛通於漢者三十許國，國皆稱王，世世傳統。

這是《後漢書·東夷傳》中的記載，可見漢武帝滅北韓之時日本即已有國家存在，並開始與中國有利交往。

建武中元二年，倭奴國奉貢朝賀，使人自稱大夫，倭國之極南界也。光武賜以印綬。安帝永初元年，倭國王帥升等獻生口百六十人，願請見。

這是《後漢書》中對日本最早的具體的記載，建武中元二年，即公元57年，漢光武帝賜日本“漢倭奴國王”金印。

大約在此時，中國的水稻種植和鐵器逐漸傳入日本，日本開始進入文明時代。

不過，《後漢書》同樣記載了徐福的傳說：

會稽海外有東鯷人，分為二十餘國。又有夷洲及澶州。傳言秦始皇遣方士徐福將童男女數千人入海，求蓬萊神仙不得，徐福畏誅不敢還，遂止此洲，世世相承，有數萬家。

但這在後漢之時也只是傳說，無法證實。