他对钱鼎铭热情如火，钱鼎铭感受到了曾国藩的真挚，就诉说当时的形势：“上海一带，只有上海、江苏镇江、浙江湖州三地没有被长毛占据，但很难持久；上海一带虽有民团、武装的洋人，可如果没有大军前去，这些势力都守不了多久。要想让上海活，必须要派遣一支军队。”
曾国藩连连点头，对于钱鼎铭的这段话，他早就研究了很久，他对上海的熟悉恐怕不比钱鼎铭差。他一口答应钱鼎铭，必会抓紧时间派一支精锐去上海。
钱鼎铭屁颠颠地走了，曾国藩却陷入思虑中。
当时，湘军的确没有多余的兵力，大家都在各自的战场上忙碌着，只有曾国荃在向天京慢悠悠地推进。他希望曾国荃带一万人去上海，曾国荃一口回绝了。他说：“我非要打下长毛的老巢天京不可，上海那地方，根本不必派军队去，只要我猛攻天京，全国各地的长毛贼都会跑回来救天京。”
曾国藩说服不了曾国荃，只好另想办法。“既然现成的兵派不出去，那不如新立一支。”这是曾国藩对李鸿章长吁短叹时，李鸿章心不在焉地说的一句话。这句话让曾国藩眼前一亮：“对啊，少荃，你这主意太好了，这事就交给你吧。”
李鸿章慌忙从椅子上站起，想了一想，说道：“我只是一说。”
曾国藩板起脸孔说道：“我可不是随便一说。”
李鸿章皱眉道：“其实湘军还是能派出一支万人部队来的，何必再建新军？”
曾国藩叹道：“湘军经过这么多年战阵，又经历过无数次胜利，已有暮气，必须要补充新鲜血液进来。而这新鲜血液却要完全不同于湘军，我看你就在你们安徽招募新兵，就叫淮军吧。”
李鸿章手直抖：“老师，这……”
“我选择你们安徽人，因为你们淮北的民风朴实彪悍，底子好，只要加以适当训练，就可称为劲旅。这件事就这样定了。”
李鸿章不语。
曾国藩叹了口气，“其实你是我幕府最得力的人，你若离开，我还真是一团乱，但上海关系重大，非要保住不可。能否有上海，是咱们胜利或失败的关键因素！”
李鸿章挺起身来，发誓一定要勇担这份重任。