วรรณกรรมญี่ปุ่นชิ้นแรกได้แก่หนังสือประวัติศาสตร์ที่ชื่อ โคะจิกิ และ นิฮงโชะกิ และหนังสือบทกวีสมัยศตวรรษที่ 8 ที่ชื่อ มังโยชู ซึ่งเขียนด้วยภาษาจีนทั้งหมด ในช่วงต้นของยุคเฮอัง มีการสร้างระบบการเขียนแทนเสียงที่เรียกว่า คะนะ (ฮิระงะนะ และ คะตะคะนะ) นิทานคนตัดไม้ไผ่ ถูกพิจารณาว่าเป็นงานที่เก่าแก่ที่สุดที่เขียนด้วยภาษาญี่ปุ่น ตำนานเก็นจิ ที่เขียนโดยมุระซะกิ ชิกิบุมักถูกเรียกว่าเป็นวรรณกรรมชิ้นแรกของโลก ระหว่างยุคเอะโดะ วรรณกรรมไม่อยู่ในความสนใจของซามูไรเท่ากับ โชนิน ชนชั้นประชาชนทั่วไป ตัวอย่างเช่น โยะมิฮง กลายเป็นที่นิยมและเผยให้เห็นการเปลี่ยนแปลงที่ลึกซึ้งระหว่างนักอ่านกับนักเขียน ในสมัยเมจิ วรรณกรรมดั้งเดิมได้เสื่อมสลายลง ขณะที่วรรณกรรมญี่ปุ่นได้รับอิทธิพลจากตะวันตกมากขึ้น โซเซะกิ นะสึเมะและโองะอิ โมริเป็นนักแต่งนิยายสมัยใหม่รุ่นแรกของญี่ปุ่น ตามมาด้วย ริวโนะซุเกะ อะคุตะกะวะ, ทะนิซะกิ จุนอิชิโระ, ยะซุนะริ คะวะบะตะ, มิชิมะ ยุกิโอะ และล่าสุด ฮะรุกิ มุระกะมิ ญี่ปุ่นมีนักเขียนที่ได้รับรางวัลโนเบลสาขาวรรณกรรม 2 คน ได้แก่ ยะซุนะริ คะวะบะตะ (พ.ศ. 2511)  และ เค็นซะบุโร โอเอะ (พ.ศ. 2537)