虎丘，原名海涌山。据《史记》载：春秋时期，吴王阖闾在与越国的槜李大战中，不慎受伤，不久就死去了，死后数日他儿子将他葬于虎丘，据说，葬后三日有一只白虎蹲在山上，所以把“海涌山”改名为虎丘山。虎丘的人文历史可追溯到二千五百年前，和苏州古城一样历史悠久。相传，春秋时期，这里就是吴王阖闾的离宫所在。公元前四九六年，阖闾在吴越之战中负伤后死去，其子夫差把他的遗体葬在这里。据《史记》等书记载，当时征调十万军民施工，并使用大象运输，穿土凿池，积壤为丘；灵柩外套铜椁三重，池中灌注水银，以金凫玉雁随葬，并将阖闾生前喜爱的“扁诸”、“鱼肠”等三千柄宝剑一同秘藏于幽宫深处。据说葬经三日，金精化为白虎蹲其上，因号虎丘。”宋代苏州州学教授朱长文则认为，虎丘因形似蹲虎而得名，并说：“然观其岩壑之势，出于天成，疑先有是丘，而阖闾因之以葬也。”清乾隆帝弘历也表示赞同：“本来岩壑擅天成，虎踞偏称金气精。”相传，吴国灭亡后的数百年间，越王勾践、秦始皇、东吴孙权，曾先后来此探宝求剑，结果都一无所获，徒劳而返。虎丘由帝王陵寝成为佛教名山和游览胜地始于六朝。东晋时，司徒王珣及其弟司空王各自在山中营建别墅，咸和二年（三二七），双双舍宅为虎丘山寺，仍分两处，称东寺、西寺，刘宋高僧竺道生从北方来此讲经弘法，留下了“生公说法，顽石点头”的佳话和生公讲台、千人坐、点头石、白莲池等脍炙人口的古迹。六朝时的虎丘即已建有佛塔，陈代张正见、江整二人咏虎丘诗有“远看银台竦，洞塔耀山庄。”和“宝塔据高垄，经台镇岭头。”之句。到了唐代，为避唐高祖李渊祖父李虎名讳，虎丘一度改名武丘，寺名亦易为武丘报恩寺，仍分东西两寺。颜真卿诗有“不到东西寺，於今五十春。”之句。那时虎丘离城虽近，但无大路和河流可通，游人需从田间阡陌穿行，如遇雨天还要涉水方能抵达，交通极为不便。宝历元年（八二五），五十四岁的白居易出任苏州刺吏。这位热爱苏州风物、对虎丘情有独钟的大诗人有感于此，便领导苏州百姓自阊门至虎丘开挖河道与运河贯通，沿河修筑塘路直达山前，又栽种桃李数千株，加以美化，并绕山开渠引水，形成环山溪。事后，诗人写有一首五律《武丘寺路》：“自开山寺路，水陆往来频，银勒牵骄马，花船载丽人芰荷生欲遍，桃李种仍新，好住河堤上，长留一道春。”虎丘山下溪流映带，碧波潺缓，远远望去恍若海上仙岛；从此水陆称便，游人络绎不绝。为纪念白居易功绩，后人称塘路为白公堤，即今山塘街，河为山塘河，皆长七里，号称“七里山塘”。此后一千一白多年间，山塘成为连结阊门与虎丘的唯一纽带，是从苏州城去虎丘的必经之路。
唐武宗李炎在位时，崇道辟佛，发动了一次大规模的灭佛运动，於会昌五年（八四五）诏令没收寺院土地财产，毁坏佛寺佛像，强迫僧尼还俗，史称“会昌灭佛”。建寺已五百余年的虎丘东西二寺当即被拆得片瓦无存。但过了不久，佛教又得到恢复。重建的虎丘山寺合二寺为一寺，并从山下迁移到山上，逐步形成保留至今的依山而筑的格局。山下则另建东山庙和西山庙，以纪念舍宅为寺的王珣、王民兄弟。北宋至道年间（九九五至九九七）苏州知州魏庠奏改虎丘山寺为云岩禅寺，由律宗改奉禅宗。之后历代虎丘都是佛教圣地和游览胜地。建国后，一九五三年六月苏州市设立园林管理处，并组成园林古迹整修委员会，接管虎丘及其他园林名胜，进行管理和维修，逐步对虎丘全面修葺。一九五五年陆续新建了放鹤亭、涌泉亭、孙武亭，开通了环山河。一九五六年建造海涌桥，疏通第三泉，修整百步趋，重建花雨亭。一九五九年重建通幽轩、玉兰山房，整修了小武当、十八折和环山路。一九六六年到一九七六年“文*”中，虎丘整修和建设陷于停顿，受到了人为的破坏，石刻、佛像、匾额、楹联、书画损失严重。二十世纪七十年代后期起，虎丘进入恢复发展时期。一九八零年重修小吴轩，整修冷香阁。一九八一年重修照墙及头山门。一九八零年至一九八二年在东山庙遗址、隆祖塔院遗址一带，新建了万景山庄。园内陈列着数百盆树桩和水石盆景。一九八二年在后山新建分翠亭、揽月榭。一九八九年，开始大规模对失修、破损的建筑、石刻、匾联逐步进行维修、保护和复原，重建了千顷云阁、五贤堂，以及周围种植享有“茶中王种”之誉白云茶树的“云在茶香”等景点。二零零三年起相继恢复了西溪环翠、书台松影，对宋代石观音殿遗址进行了保护。同时注重自然景观建设，植树两万两千多株，春花、夏荫、秋果，冬翠，四时佳景清丽可人，千古名山生机盎然。