沿革日本历史上早期虽有掘池筑岛，在岛上建造宫殿的记载，但主要是为了防御外敌和防范火灾。后来，由于中国文化的影响，庭园中出现了游赏内容.<日本书纪>载：显宗天皇元年 (485)“三月上巳幸后苑曲水宴”；武烈天皇八年(505)“穿池起苑，以盛禽兽”,都是游赏事例。曲水之宴曾是中国汉、晋上流社会盛行的一种春游活动；苑中置禽兽供赏玩，也是中国自汉以来帝苑的传统内容。
钦明天皇十三年（552），佛教东传,中国园林对日本的影响扩大。日本宫苑中开始造须弥山，架设吴桥等。朝臣贵族纷纷建造宅园。据<日本书纪>载：推古天皇三十四年(625)，大臣苏我马子“家于飞鸟河之旁,乃庭中开小池，仍兴小岛于池中，故时人曰岛大臣”。<万叶集>诗歌中也有描写贵族第宅中园林风光的作品。20世纪60年代，平城京考古发掘表明，奈良时代的庭园已有曲折的水池，池中设岩岛，池边置叠石，池岸和池底敷石块，环池疏布屋宇。
平安时代平安时代前期庭园要求表现自然，贵族别墅常采用以池岛为主题的“水石庭”。到平安时代后期，贵族邸宅已由过去具有中国唐朝风格的左右对称形式，发展成为符合日本习俗的“寝殿造”形式。这种住宅前面有水池，池中设岛，池周布置亭、阁和假山，是按中国蓬莱海岛（一池三山）的概念布置而成的（见建章宫）。例如京都宫道氏旧园，在寝殿（现已不存）南面有水池，池中有三座小岛，池西设泷石组（即叠落式溪流，近似小瀑布）。这个时期的庭园用石渐多，有泷石组、遣水石组（在水流边的布石）、池中小岛式石组（所谓龟岛、鹤岛、蓬莱岛等）。一些佛寺也多在大殿前辟水池，池中设岛，或在岛上建塔。岩手县毛越寺和京都法胜寺即为遗例。记述平安时期造园经验的<作庭记>，是日本最早的造园著作。
镰仓时代武士阶层掌握政权后，京都的贵族仍按传统建造蓬莱海岛式庭园，鹿苑寺庭园即为一例。另一方面，由中国传入的禅宗佛教兴盛起来，禅僧的生活态度以及携来的茶和水墨山水画等都对日本上层社会产生很大影响，从而也引起日本住宅和园林建筑的变化。禅、茶、画三者结合孕育而成的思想情趣，使日本庭园产生一种洗练、素雅、清幽的风格。当时最负盛名的造园家是镰仓末期的禅僧疏石（梦窗国师），他曾设计构筑京都西芳寺、天龙寺、镰仓端泉寺、甲州惠林寺等的庭园。他也是枯山水式庭园的先驱，对日本庭园的发展有很大影响。
室町时代武士宅园仍以蓬莱海岛式庭园为主。由于禅宗仍很兴盛，在禅与画的进一步影响下，枯山水式庭园发展起来。这种庭园规模一般较小，园内以石组为主要观赏对象，而用白砂象征水面和水池，或者配以简素的树木。典型实例是京都大德寺大仙院和龙安寺庭院（均为方丈庭园）。大仙院建于1513年，庭园位于方丈室前，宽仅5～6米,以一组有“瀑布”的石组为主体,象征峰峦起伏的山景，山下有“溪”，用白砂耙出波纹代替溪水。这种无水而似有水、有声寓于无声的造园手法，犹如写意山水画，是一种有高度想象力的艺术概括。龙安寺方丈庭园枯山水全用白砂敷设，不植树木，白砂中缀石组五处，共15块，分为五、二、三、二、三，由东到西，面向方丈室作弧形布置，风格洗练而含蓄，被视为枯山水庭园代表作。
明治维新以后随着西方文化的输入，在欧、美造园艺术的影响下,日本庭园开始了新的转折。一方面,庭园从特权阶层私有专用转为开放公有，国家开放了一批私园，也新建了大批公园；另一方面，西方的园路、喷泉、花坛、草坪等也开始在庭园中出现，使日本园林除原有的传统手法外，又增加了新的造园技艺。
种类日本园林早期接受中国的影响，但在长期发展过程中形成了日本自己的特色，产生了多种式样的庭园，主要有：
林泉式或称池泉式。园中以水池为中心，布置岛、瀑布、土山、溪流、桥、亭、榭等。在大型庭园中还有“回游式”的环池设路或可兼作水面游览用的“回游兼舟游式”的环池设路等。
筑山庭在庭园内堆土筑成假山，缀以石组、树木、飞石、石灯笼等。至江户末期,则有所谓“真、行、草”三体，主要是精致程度上的区别。真筑山:格局正规,工程复杂，置石最多，有守护石、请造石、控石、庭洞石、蜗罗石、月阴石、游御石等；行筑山：稍为简略，置石较少；草筑山：布置简朴,置石更少,风格则较柔和。
平庭这种庭园内部地势平坦，不筑土山。根据庭内敷材不同而有芝庭、苔庭、砂庭、石庭等。一般采用低矮的石组，配以园路、“刈込”及其他树木，其形式也根据园景繁简程度而分为真、行、草三种。
茶庭与茶室相配的庭园，有禅院茶庭、书院茶庭、草庵式茶庭（通常称为露路、露地）三种，其中草庵式茶庭最具特色。草庵式茶庭四周有围篱，自院门至茶室设置一条园路，两侧用植被或白砂敷于地面，栽植树木，配置岩石，沿路设寄付(门口等待室)、中门、待合（等待室）、雪隐（厕所）、灯笼(照明用)、手洗钵（洗手用）、飞石（即步石）、延段（石块、石板混合铺成的路段）等待客所需的设备。又因茶庭区划不同而有一重露地、二重露地、三重露地三种；三重露地则有外、中、内三区庭园。
枯山水在庭园内敷白砂,缀以石组或适量树木,因无山无水而得名。这是日本特有的造园手法。
园林布置就植物配置、山石、建筑分述如下：
植物配置日本庭园早期重常绿树而轻花卉，江户以后有所改进。园内地面常用细草、小竹类、蔓类、羊齿类、藓苔类等植物覆被，很少用砖石满铺。人工修剪的“刈込”是一大特色。
山石很少用石叠假山，一般用土山和石组。石组的式样变化很多。其他用石方式也多种多样，如石灯笼、飞石、泽飞（水中步石）、伽蓝石（利用石柱础铺于地面）、水手钵、井户围、石桥等。
园林建筑采用散点式布置，无蜿蜒的长廊。不论是书院造还是数寄屋，平面都很自由，布局开敞，外围的纸格扇可以拉开，使内外空间联成一片，有利于通风，也便于观赏园景。建筑风格素雅,屋面多用草、树皮、木板覆盖，仅少数大书院式庭院用瓦顶。木架、地板和装修一般都不用油漆,但做工精细，表面磨光露出木质纹理，或用带皮树干、竹、苇等自然材料。墙面用素土抹灰，不用涂料。因此，日本庭园整个建筑格调细腻而雅致。