鉴真到达日本后，受到孝谦天皇和圣武太上皇的隆重礼遇，754年2月1日，重臣藤原仲麻吕亲自在河内府迎接，2月4日，鉴真一行抵达奈良，同另一位本土华严宗高僧“少僧都”良辨统领日本佛教事务，封号“传灯大法师”。
根据圣武和孝谦的意愿，鉴真作为律宗高僧，应该负起规范日本僧众的责任，杜绝当时日本社会中普遍存在的托庇佛门，以逃避劳役赋税的现象，因此，孝谦下旨：“自今以后，传授戒律，一任和尚”。但是，这引起了日本本国“自誓受戒”派的反对，尤其是兴化寺的贤璟等人，激烈反对。于是，鉴真决定与其在兴福寺公开辩论，在辩论中，鉴真做出让步，承认“自誓受戒”仍可存在，但是作为正式认可的具足戒必须要有三师七证，结果贤璟等人皆被折服，舍弃旧戒。鉴真于是在东大寺中起坛，为圣武、光明皇太后以及孝谦之下皇族和僧侣约500人授戒。756年，鉴真被封为“大僧都”，统领日本所有僧尼，在日本建立了正规的戒律制度。
然而，758年，作为鉴真最主要支持者的孝谦天皇在宫廷斗争中失势，被迫传位给淳仁天皇。相应的，鉴真也遭受到排挤。758年，淳仁天皇下旨，以"政事烦躁，不敢劳老"为名，解除了鉴真“大僧都”一职，并将在宫廷斗争中败死的原皇太子道祖王的官邸赐给鉴真。次年，鉴真弟子在该官邸草成一寺，淳仁赐名“唐招提寺”，鉴真从东大寺迁居至此。淳仁还下旨，令日本僧人在受戒之前必须前往唐招提寺学习，使得唐招提寺成为当时日本佛教徒的最高学府。763年5月6日，鉴真在唐招提寺圆寂，入灭之前，其弟子为鉴真膜影，立夹漆像，传世至今。
764年，孝谦天皇镇压了惠美押胜之乱，重新登基。鉴真的弟子思托、法进等人相继成为“大僧都”，唐招提寺也得以扩建，成为日本建筑史上的国宝。鉴真所开创的四戒坛，也成为最澄开创日本天台宗之前日本佛教僧侣正式受戒的唯一场所。鉴真也被尊为日本律宗初祖。