咸丰三年（1853年）初，李鸿章得知太平军大举入皖的消息后，怂恿工部左侍郎吕贤基上奏，并代为捉刀连夜赶写奏章。奏上，咸丰帝命吕担任安徽团练大臣，吕对李说：“君祸我，上命我往；我亦祸君，奏调偕行”。于是李鸿章与吕贤基一同回到安徽。翌年，李鸿章的父亲李文安也由王茂荫举荐回乡办团练。李家父子的团练“整齐皆可用”。李鸿章先后随周天爵、李嘉端、吕贤基、福济等清廷大员在皖中与太平军、捻军作战。
李鸿章以书生带兵，既有“专以浪战为能”的记录，也有“翰林变作绿林”的恶名。数年的团练生涯，使他逐步懂得了为将之道，不在一时胜败，不逞匹夫之勇。他曾因咸丰五年（1855年）十月率团练收复庐州之功，“奉旨交军机处记名以道府用”。次年又以克复无为、巢县、含山的战功，赏加按察使衔。然而，功高易遭妒，一时之间，谤言四起，李鸿章几不能自立于乡里。咸丰七年（1857年），皖抚福济奏报李鸿章丁忧，为父亲守制，从而结束了他为时五年的团练活动。翌年，太平军再陷庐州，李鸿章携家眷出逃，辗转至南昌，寓居其兄李瀚章处。他本人遂于咸丰九年（1859年）末投奔建昌曾国藩湘军大营，充当幕僚。
前言（2）
通过曾国藩有意教导，李鸿章经过一番诚心学习后渐渐地改掉了自己身上一些不好的习气，为人更加成熟稳重，做事更加老练稳妥。李鸿章的有些思想也是受到曾国藩的影响的。
在历史的拐角处，李鸿章又一次抓住了机会。
咸丰十年（1860年），太平军二破江南大营后，清政府在整个长江下游地区已失去最后一支“经制军”主力。在太平军的猛烈攻势下，江南豪绅地主，纷纷逃避到已经形同孤岛的上海。为了免遭灭顶之灾，在沪士绅买办一面筹备“中外会防局”，依赖西方雇佣军保护上海；另一方面又派出钱鼎铭等为代表，前往安庆请曾国藩派援兵。曾国藩原本打算派曾国荃领兵东援，但曾国荃一心要攻下天京，建立首功，而不愿去上海。随后，曾国藩又函请湘军宿将陈士杰出山，但陈以“母老”力辞。在曾国藩把身边的人都派了个遍却都不愿去的情况下，他想到了李鸿章，而李鸿章欣然应命。于是，他开始组建自己的嫡系部队——淮军。