杨昌浚,字石泉,号镜涵,又号壶天老人,道光六年(1826年)九月初九出生于湖南省湘乡县神童乡丰乐三十八都(今湖南省娄底市经济技术开发区大埠桥街道办事处宋家村居委会)。他自幼家贫如洗,其父亲杨仲明是乡村的普通手工艺人。道光十五年,他9岁时母亲病丧。道光二十九年(1849年),杨昌浚往左氏芭蕉山馆拜罗泽南为师,学习程朱理学和武艺。咸丰元年(1851年),他考中生员。
咸丰二年(1852年),太平军进入湖南,他跟随罗泽南在籍组织团练。咸丰四年(1852年)夏天,他跟随罗泽南转战湖北;十月,罗泽南率湘军所部攻太平军于田家镇对岸半壁山,杨昌浚逞勇先登,罗部接连攻下广济、黄梅,杨亦"积功"为训导(县学教官副职)。咸丰六年(1856年),他与刘蓉在家乡办理团防,升教授(府学教官);这年,他父亲去世,回家守孝三年。
咸丰十年(1860年)五、六月间,左宗棠在长沙金盆岭编练"楚军",杨昌浚以三个月为期应邀入幕;八月,他跟随"楚军"取道醴陵入赣;十月,杨昌浚与总理营务的王开化率领四营在赣东北之枫树岭大败太平军;十一月,杨昌浚率亲兵营攻陷德兴、婺源,遂迁知县,加同知衔。
同治元年(1862年)正月,为牵制太平军,缩小天平军的控制范围,配合湘军对天京的作战,清廷命左宗棠 为浙江巡抚后率领"楚军"全部8000人进入浙江地区,与太平军侍王李世贤20万人作战。同治元年三月,会攻石门花园港"逾濠而进,忽北风陡转,大雨如注,火箭失用,枪炮不燃,乃麾军而退";其后左部其余军队进攻江山,杨昌浚与刘典、刘璈分三路攻石门,破垒七座,终因太平军奋力坚守,未能得逞。同治元年五月,左宗棠以杨昌浚"性情恬裕,屡辞保荐,廉明笃实,晓畅戎机"推荐为浙江省道员衔;七月,左宗棠攻龙游(今并入浙江省衢县、金华县),杨昌浚击溃太平军于莲塘、孟塘等地。李世贤以龙游告急,分兵三路赴援,中路取清军刘培元营,杨昌浚凭山下攻,击破中路太平军。同治元年九月,左宗棠经过与李世贤的反复争夺,终于占领皖浙边境的衢州府,命杨昌浚为衢州府知府。
同治元年十月,天京(今江苏南京市)告急,李世贤以李尚扬、李遇茂、刘政宏等扼守汤溪(今并入浙江金华县)、龙游、兰溪,自率一军回援。同治二年(1863年)正月,清军攻陷汤溪。龙游太平军因腹背受敌,弃城往东跑。杨昌浚等蹑踪追至汤溪,与清军蒋益澧部内外夹击,再次击败太平军;九月,清庭授杨昌浚为浙江粮储道;十一月,与蒋益澧、黄少春等合兵共一万三千余人进攻余杭西北;十二月初三(1864年1月11日),杨昌浚进攻杭州北门,两军激战。这时,雨雪兼旬,太平军坚守不动。二十五日(2月2日),天气放晴,杨昌浚等连破余杭五卡。第二天,再攻余杭北十里的林清堰(康王王海洋驻地),中伏败退。
同治三年二月二十五日(1864年4月1日),杨昌浚率军破杭州、余杭,加按察使衔;三月,左宗棠入驻杭州,杨昌浚奉命督清军北上,攻占湖州府(府治在今浙江吴兴县)武康县城(今并入浙江德清县);然后分兵进驻三桥埠,与湖州南路清军连成一气;五月,湖州太平军往逃至泗安、梅溪,杨昌浚由牌头进桐岭进行阻截;六月,北攻安吉受挫;七月,安吉太平军弃城西走,杨昌浚率各营由吉安、孝丰(今并入浙江安吉县)追至安徽宁国县境,与刘璈部合击太平军,抓获太平军七千余人;十二月,授浙江盐运使,旋升浙江按察使。同治四年(1865年)八月,左宗棠上奏朝廷,称其"实属尽瘁驰驱,劳绩卓著。可否仰恳天恩,俯准将浙江按察使杨昌浚赏加布政使衔,并赏给该员三代二品封典,以示优异"。同治五年(1866年)二月,左宗棠督军前往福建,清庭命杨昌浚为浙江布政使,负责处理浙江善后事宜。同治八年十二月,清庭又命杨昌浚为署理浙江巡抚,九年(1870年)八月,杨昌浚正式担任浙江巡抚一职。