凡是园林创作中有利于体现生活美、自然美与艺术美的各种景物，都是造园的物质要素。如丰富多彩的花草树木和鱼虫禽兽，形形色色的峰峦岩崖及溪瀑湖海，各种有助于园景和游想活动的土建工程等；还包括各种有利于构成园景的皓月、朝阳、晚霞、雨露等气候气象因素，以及与园林内容和形式和谐的书法、绘画、雕塑等艺术品。

在众多的构成要素中最基本的是山水地形、花草树木、园路与建筑三类。

山在我国园林里是永恒与稳定的象征。大园的山大，主山大多是土山，山石用在重点部位，称为“山骨”，形式和真山差不多；小园山小，可以全用山石堆叠，表现自然山局部，却能启发人对整体山的联想。

水在我国园林里是智慧和廉洁的象征。水从山泉流出，通过曲折的溪涧最后汇成大池，成为园林的主体水面。设计山和水，造园学叫作治山理水。

花木在我国园林里最富生机，象征着欣欣向荣。有些花木还被赋予特殊的含意，如松柏喻坚贞、长寿，梅兰竹菊喻君子风范等。我国园林的花木配植也是自然式的，同时很讲究意境，花木种类的选择都要顺应地形、朝向等自然气候条件与植物的生长习性。

我国园林的特色还在于园路要“曲径通幽”，建筑分散在自然要素之中，与自然的景物交织在一起。园中的主要建筑往往和山池相对，自然景色最集中的地方往往有点景和观景的建筑。建筑和园路在园林中还起着分隔空间和组织游览路线的作用，美的建筑常常是园林的点睛之处。