公元285年，百济博士王仁渡海到日本，向道稚郎子献《论语》和《千字文》。一般认为，这是儒家学说传入日本之始。

儒学的传入促进了日本古代教育事业的发展。王仁及其他渡日学者，在宫中讲授《论语》、《千字文》等儒书，使日本真正有了自觉的文化教育。不久，出现了最早的学校——学问所，专门负责向王子、大臣们传授儒家经典。教育范围虽然不算大，但影响是深远的。513年开始设立五经之学。到七世纪，由于圣德太子的倡导，儒学教育进一步发展。孝德天皇朝置国博士，天智天皇朝设立学校，文武天皇朝颁行大宝令，规定首都设大学，各国设国学，教授学生《周易》、《尚书》、《三礼》、《左传》、《孝经》、《论语》，皆以汉魏古注为准。从奈良到平安时期（710——1192）官吏的选拔考试，题目都是有关儒学和汉学的。

随着儒学教育的发展，儒家思想逐渐被统治阶级的一些代表人物接受。到了推古天皇朝的圣德太子，制定十七条宪法，除第二条要求笃敬佛家三宝（佛、法、僧）外，多为儒家思想。如第一条“和为贵”；第二条“国非二君，民无两主，率土兆民，以王为主”。反映了儒家的中庸和忠君观念。他所制定的十二级冠位制，也以儒家德目“德、仁、礼、信、义、智”（分大小）作为各级的名号。统治阶级特别重视孝的观念。孝谦天皇天平宝字元年（757年）下诏：“古者治民安国，必以孝理。百行之本，莫先于兹，宣令天下，家藏《孝经》一本，精勤诵习。”（《续日本纪》）

儒家思想对日本古代政治生活也有相当的影响。大化革新（645年）和大宝令（701年）的制定，是日本古代史上的重大事件，它们使日本从原始的有氏族色彩的国家转变为中央集权的“法式备定”的律令国家。大化革新和大宝令都是学习隋唐文化的结果，其中有不少内容是以儒家经典为依据的。

与此同时，孔子的地位在不断提高。大宝令规定，大学和国学在每年春秋的两个仲日对孔子举行释奠之礼，这种祀孔仪式一直延续下来。开始称孔子为“先圣孔宣父”。768年，敕称孔子为文宣王。后来祀孔不限于学校，政府官员也参加，执政者藤原基经在释奠之日，率公卿祀孔子，并且让明经博士宣讲《周易》，对孔子的礼拜更加隆重。

从镰仓时代到江户时代的六百多年间，是日本的封建时代。占统治地位的封建领主阶级，由各级武士组成。古代天皇制度解体，天皇名存实亡，中央政权掌握在武人的幕府手中。武士阶级面临着与农民和商人的矛盾，与天皇的矛盾，与西方列强的矛盾，而武士阶级内部从将军、大名（诸侯）到中下级武士如旗本、御家人等等也都存在着矛盾。经过长期的探索，最高统治者将军认识到，要处理这些矛盾，维护封建秩序，除了武力镇压，更要靠儒家思想的教化。这样，儒家思想越来越受重视。到江户时代，德川幕府奉儒学为圣教，大力提倡尊孔读经，用行政手段严禁“异学”，遂使儒学成为占统治地位的意识形态。

历代德川将军都是儒学的热烈拥护者。德川纲吉在本乡建大成殿，置孔子及十哲像，按时举行释奠之礼，时常亲自讲解经书。德川义直著《礼仪宝典》，把儒家理论和日本神道配合在一起。他们建起日本最大的孔庙，设立最高儒学学府昌平坂学问所，大量出版儒家典籍。在他们的影响下，各地诸侯也建孔庙办学校。这样就使儒学教育空前地发展起来。

德川幕府推重的是儒学中的朱子学，这个学派作为官学，拥有众多学者和很大的势力。由于儒学的强大影响，反对朱子学的理论，在相当长的一段时间里，也不得不采取儒学的形态，不过是朱子学之外的分支罢了。于是便出现了古学、阳明学、南学、古义学、古文辞学，以及折衷派、考据派等等。这是日本儒学的鼎盛时期。

儒学各派在世界观、政治态度上有分歧，有斗争，但一般说来都强调大义名分、华夷内外之辨。大义名分论是处理君臣上下关系的理论，要求把这种关系看作天经地义，每个人都要依自己的名分履行对上的义务。华夷内外之辨是要区别东方与西方的根本不同，对西方宗教如佛教、基督教及西方列强采取排斥态度。所有这些理论都可以从孔子尊尊亲亲思想，内华夏而外夷狄的思想中，找到根据或原型。

儒学各派共同维护家长制道德，最突出的是孝。朱子学派的贝原益轩强调父母对子女要严而不可溺爱，子女则要百般顺从父兄。“受父母兄长之责，虽怒亦不可反驳父兄之是非，应畏而慎听之。”（转引自《日本史》第215页）他们沿着孔子轻视妇女的思想路线前进，认为妇女应该恪守“三从”、“四德”，严防“五病”、“七出”，给妇女带上较为沉重的枷锁。使她们的地位更低下，命运更悲惨。

在封建时代形成的武士的道德——武士道，也与儒家学说有着极深刻的关系。它的主要道德规范如忠、义、勇、礼及其说明，如“得主尽忠”，“舍生取义”，“见义不为无勇也”，“非礼勿视、听、言、动”等等，都来自儒家典籍，有的就是孔子原话。