玉山县地处怀玉山脉与武夷山余脉的交接地带和浙赣走廊的中部，地势西北和东南高，西南低，西北、东南均向中部逐渐倾斜，形成马鞍型。地形可分为三带：西北中低山地带，东南低山丘陵地带，中部丘陵河谷平原地带。主要山脉有怀玉山脉、武夷山余脉。山区占全县面积的49%，丘陵占41%，平原占10%。境内最高点位于北部三清山玉京峰，海拔1816.9米；最低点位于文成镇涨畈村附近，海拔76米。

    境内大小河流8条，分别为金沙溪、玉琊溪、甘溪、沧溪、黄家溪、葛仙溪、陇首溪和程溪，主、支流总长385.25千米，流域面积1600平方千米，河网密度0.22千米/平方千米，径流总量19.59亿立方米，多年排涝量2000立方米/秒，最大排涝量2417立方米/秒（1998年7月24日）。2022年6月20日信江玉山站最高水位81.19米，超历史最高水位（1998年80.17米）1.02米。境内河道主要属鄱阳湖水系，是信江的发源地，金沙溪、玉琊溪、沧溪为信江三大源流。汇入信江的主要河流有金沙溪、玉琊溪、甘溪、沧溪、黄家溪、葛仙溪等6条河流，主干河道总长233.5千米，流域面积1530平方千米。金沙溪、玉琊溪为境内最大的河流。境内水域面积43.3平方千米，地表水年均19.6亿立方米，其中水库总库容量4.3亿立方米。有大（二）型水库1座，即七一水库，库容量为2.49亿立方米；中型水库3座，即王宅水库、峡口水库和毛宅水库。水力资源理论蕴藏量9.4万千瓦，有水电站43座，装机3.71万千瓦，年均发电量约1.08亿度；地下水储量主要靠降雨补给，年补给量4.28亿立方米。

    境内属中亚热带季风气候，气候温和，雨量充沛，光照时间长，有霜期短，四季变化明显。累年平均气温17.5℃，1月平均气温5.5℃，极端最低气温零下9.5℃（1991年12月29日）；7月平均气温28.8℃，极端最高气温43.3℃（1953年8月10日）；2022年全县年平均气温19.2℃，比历年平均值偏高1.4℃。生长期年平均270天，无霜期年平均257天，最长达306天，最短为216天。年平均日照时数1656小时，年总辐射109.96千卡/平方厘米。年平均降水量1819.5毫米，年平均降雨日数为161天，最多达195天（1975年），最少为123天（1971年）。极端年最多降雨量2769毫米（1975年），极端年最少降雨量1204.7毫米（1979年），降雨集中在每年4月至6月，6月最多。2022年降水量1994.5毫米，比历年同期多175毫米。

境内土壤计有8个土类14个亚类27个土属63个土种，其分布随地貌类型不同而相应变化。北部怀玉山区以山地黄壤和黄红壤2个亚类为主；东北部低山区以黄红壤和山地黄棕壤2个亚类居多；西北部低山区以乌、灰鳝泥田2个亚类为主；中部平原丘陵区以水稻土、潮土为主；东南部丘陵区以红砂泥土、棕红土为主。2022年全县粮食总产量20.5万吨，主要产粮乡镇为四股桥、下镇、横街、文成、岩瑞等。境内已探明地下矿藏24种，包括铁、铜、铌钽、铀、钨、锡、锡铜、钨铅铜等8种金属矿，石灰石、磷、莹石、水晶、玉石、石英、叶腊石、罗纹砚石、硫磺、石墨、铝土、重晶石、煤、膨润土、花岗岩、高岭土等16种非金属矿。其中石灰石储量33亿吨，居江西省首位，主要分布在双明、岩瑞、下镇等乡镇；石煤32亿吨，居江西省第二位，主要分布在樟村、怀玉、必姆、冰溪等乡镇；花岗岩30亿立方米，分布在怀玉、樟村、南山等乡镇。

    境内野生植物资源有野生种子植物175科643属1241种，其中裸子植物7科15属18种，被子植物168科628属1223种。分布在怀玉山、三清山一带的野生珍贵树种有华东黄杉、黄山松、福建柏、长柄双花木、香榧等。2022年，林地面积10.34万公顷，森林覆盖率68.13%，活立木蓄积量475.29万立方米，主要林业乡镇有紫湖、怀玉、樟村、南山等。境内野生动物资源有脊椎动物4类30目82科278种，其中鱼类4目9科29种；两栖动物2目7科18种；陆栖爬行类2目11科33种。鸟类16目41科151种，其中隼形目10种，鸮形目5种。哺乳类动物有8目21科47种，珍贵品种有云豹、穿山甲、水獭、黑熊、小灵猫等。

    全县开放和正在开发的旅游景区9个，其中5A级国家旅游景区1个，4A级旅游景区4个, 3A级及以上江西省乡村旅游点18个。2022年旅游接待人数2200.1万人次，同比增长16.72%；旅游收入230.18亿元，同比增长21.08%；门票收入2352.37万元，同比增长22.15%。世界自然遗产三清山座落在县境西北部，距县城约50千米；三清山脚下的三清湖（七一水库）距县城16千米，湖边有佛教胜地少华山和连绵十里的溶洞群，可开发景区面积达54.8平方千米。怀玉山与三清山景区相连，景区面积逾20平方千米；玉峰盆地海拔1000米，可开发建设核心区块面积1.4平方千米，是华东地区独有的高山避暑胜地；怀玉山是方志敏率领红军北上抗日先遣队浴血奋战过的地方，是方志敏烈士的蒙难地和《清贫》故事及清贫精神的发源地，有多处第二次国内革命战争时期的遗迹，建有清贫园、中国工农红军北上抗日先遣队纪念馆（碑）等标志纪念物，被列为全国爱国主义教育示范基地。怀玉山、武安山、天梁三大景区列为国家级森林公园。现存全国重点文物保护单位有玉山考棚、官溪胡氏宗祠；省级重点文物保护单位有阎立本墓、玉山城墙、玉山鸿园、文成塔、方志敏烈士被捕地和关押地旧址、怀玉山中国工农红军北上抗日先遣队活动遗址群等6处；市级文物保护单位有怀玉山摩崖题刻；县级文物保护单位22处。