到达上海之后，李鸿章看见外国枪炮性能优越，杀伤力强，而中国自己生产的却质量低劣。同时他又发现，太平军专用洋枪，尤其是李秀成所部用洋枪最多。为了在战场上争得主动，李鸿章决定用西方新式武器武装淮军。
李鸿章通过兄长李瀚章，在广州购买了大量的西方新式枪炮，不仅用来武装改编后的淮军，而且分拨给曾国藩、曾国荃的湘军使用。从这年的6月开始，李鸿章的淮军里面也出现了“洋枪队”。从此以后，湘淮军开始了新式武器的装备，后来曾国藩多次说，湘淮采用洋枪，是李鸿章倡导的。
事实上也是如此。对洋枪洋炮，曾国藩并不迷信。当时曾国荃屡次要求李鸿章为他代买洋枪洋炮，曾国藩就表示，打胜仗“在人不在器”，关键还是训练好。这种认识当然存在一定的误区，这是曾国藩受条件限制的原因。但他并不保守，一旦发现洋枪洋炮的威力后，对于李鸿章的行动，他不但同意，而且还给予了极大的支持。在他的积极扶持和指导下，李鸿章才走上了洋务强国的道路。
在奕?的帮助下，李鸿章的意见终于得到慈禧太后的首肯，允许他在“剿匪”的前提下，学习制造军火。
随后，李鸿章开始跟有军工经验的英、法军事人员接触，目的是要模仿他们的生产。由于李鸿章与外国军队的频繁接触，使他对外国武器的效力更为推崇。
在实践中，李鸿章的洋务自强思想也在不断深化。不久，他就认识到，长期依靠购买西方军火，只能增加对外国的依赖性，要想自立自强，就必须学习外国的生产技术，创办和发展自己的军工企业，实现自主生产。从此，他开始与有经验的外国军事人员接触，学习有关知识。经过不断地了解，逐渐坚定了生产西式武器的决心。