这是淮军和太平军的第一次交锋,这也关系到李鸿章的声威和淮军的名誉。当时李鸿章带领的是树字营和春字营等,春字营抵挡不住太平军的进攻就撤退逃跑,而此时李鸿章正坐在虹桥桥头督战。他看到张遇春也在往后撤退,于是就一把抓住张遇春对士兵下令说:“拿刀来,把他的头砍了!”张遇春只好硬着头皮带队继续往前冲。原来,张遇春是李鸿章十分信任的人,也是他的旧部,但是大敌当前,李鸿章却毫不客气了。同年的八月和十月,李鸿章的淮军又和太平军打了两场恶战:由程学启部和刘铭传部分别在北新泾、四江口和太平军对抗。并且获得了完全的胜利。经过虹桥、北新泾、四江口三场战役,李鸿章所管辖的淮军最终守住了上海,这让那些曾经取笑淮军是“乞丐兵”的官绅和洋人不得不刮目相看。
在上海立足之后,李鸿章主要考虑到淮军今后的发展。曾国藩想要将上海置于湘军的控制之下而不是在淮军的控制之下,恩师的这种想法李鸿章却不能苟同,他认为上海乃是重要的枢纽城市,只要控制了上海,就可以控制饷源又便于与外国势力联合,并且淮军是上海官绅请来的,不可背弃。这样说来,上海官绅的人心向背关系着淮军的命运,另一个方面,它也与李鸿章的宦海生涯息息相关。于是,为了维护自己的权益,李鸿章给恩师曾国藩写信,给皇上写奏折,真真假假地陈述自己的理由,最终,清政府同意了李鸿章的请求:用沪平吴。李鸿章为自己确定了一个长期的战略目标,逐步实现他既定的关于军事、学战、吏治、筹饷和洋务等的战略方针。李鸿章下定决心要冲破一切艰难险阻,闯出属于自己的新局面,并且要使出浑身解数,尽早地将农民起义扼杀。