新四军第一支队在粟裕的带领下进入苏南，杀敌攻城，捷报频传。他们首次生俘日军，首创攻入县城，摧毁伪政权，火烧京沪铁路重要据点新丰车站，全歼日军80余人，南京、上海为之震惊。第二支队奉命也于6月中旬从皖南出发，先后到达(南)京芜(湖)铁路以东(南)京杭(州)公路以西的江宁、溧水、高淳及安徽的当涂地区，开展抗日游击战争。新四军军部指示：“二支队主力到达指定地点后，归粟指挥。”完成先遣抗日任务的粟裕回到二支队。不久二支队司令部移驻当涂塘南阁。
6月中旬，国民党军同日本侵略军进行的新一轮武汉会战已经开始。南京失陷以后，武汉实际上成了当时全国军事、政治、经济的中心。1938年5月日军攻陷徐州，随即大规模向武汉进攻。国民政府军事委员会调集100余万兵力，在安徽、江西、河南、湖北等省抗击日军进攻，保卫武汉。23日，新四军军部指示挺进江南敌后的新四军：“目前中心任务是，开展胜利的游击战来配合各方执行保卫武汉的总任务，同时使本军在全国政治地位提高。”然而，在交通发达、人口稠密、日军驻有重兵的江南丘陵、平原和水网地带，能不能够开展抗日游击战争，除了韦岗战斗外还缺乏更多的作战实践。在共产党内部，甚至在新四军高层，看法也不一致。新四军官兵打惯了山地游击战，能不能在日军占有极大优势条件下进行丘陵、平原和水网地区游击战，并且取得胜利，谁都心里没有底。从作战对象讲，同国民党军较量过十年，对他们摸得比较透了，但对付日军将是怎样呢？大家都缺乏了解，心中没有底。粟裕认为，八省健儿走出深山野林，汇成新四军的抗日铁流，只是从政治上、思想上、组织上完成了转变，至于军事上的转变只能靠军事实践来完成。根据新四军军部指示精神，粟裕率领二支队以更加积极的姿态开展更加广泛的丘陵、平原、水网地区敌后游击战和发动群众的工作。
7月初，二支队三团一营伏击当涂至芜湖之间的火车，击毁敌军车一列，缴获大批军用品。8月5日，第二支队一部在芜湖以东永安桥与日军遭遇，首次俘获日军1名。8月中旬，二支队司令张鼎丞率第四团从南陵出发，通过封锁线，到达第二支队司令部当涂县塘南阁。后来张鼎丞根据上级安排去了延安。
国民党当局对挺进江南敌后的新四军，一方面玩弄“借刀杀人”诡计，企图借日军之手消灭这支共产党领导的部队；另一方面又实行“画地为牢”，规定江南新四军活动的区域，只能在京沪铁路以南，东西长不过百余公里、南北宽只有五六十公里的一块狭长地带作战，倘若“越界”，就要被视作违反“军令”、“政令”处罚。
粟裕坚决贯彻中共中央指示精神，冲破国民党当局设置的“牢笼”，领导和指挥二支队迅速展开于京芜铁路以东、京杭公路以西地区，独立自主地游击江南，打击日本侵略军。
此时，正面战场的武汉会战正酣。国民党当局迫切需要深入江南敌后的新四军配合正面战场作战，更多地牵制敌人一些兵力。新四军不负众望，以一系列的战斗行动有效地配合了正面战场作战。这是日军万万没有料到的。日军立即调整兵力部署，采取防御性的攻势反扑。8月22日至26日，日、伪军出动步兵4000余人，骑兵500余人，并有轰炸机20余架配合，兵分八路，水陆并进扫荡，企图一举聚歼初进江南敌后的新四军二支队三团于小丹阳。
粟裕敏锐地注视着敌情发展，筹谋应敌良策，决定采取敌进我进游击战术，变被动为主动，分散袭击敌人后方。粟裕命令二支队三团一部进袭当涂，造成敌之恐慌；一部进击南京以南的陶吴，牵制敌兵力；另选精兵一支，奔袭南京近郊，夺取雨花台制高点，袭击中华门内外日、伪军事目标。此时一支队已动员广大地方武装及人民群众将京沪、京杭、镇句、句丹、京镇各公路彻底破坏，并派部队进袭麒麟门，给南京敌人以极大威胁，有力地配合了二支队的作战行动。日军到达小丹阳，不见新四军踪影，却连连收到后方告急电报，慌忙撤退回防。粟裕抓住战机，命令部队勇猛追击，连克小丹阳、薛镇、护驾墩、博望等村镇，毙伤敌50余人，粉碎了日军的合击计划，自己无一伤亡。
粟裕指挥的敌后游击战节节胜利，打得日军胆战心惊。日军气急败坏又无可奈何地说：“新四军是个神，你打他时一个也没有，他打你时都出来了。”
1939年1月，粟裕亲自组织指挥了奇袭官陡门，在新四军挺进江南敌后抗战史上谱写了新的光辉篇章。
官陡门位于安徽芜湖附近，驻有伪军200余人，据点四周河沟交叉，离飞机场6里许，离铁路仅3里，南面8里的永安桥、北面10里的年陡均有日伪军驻守。可供进攻官陡门的路线有两条，都要通过几条深不可徒涉的河流，并且必经敌人之青山、黄池据点。官陡门有什么风吹草动，西、南、北三面各据点派出的增援部队，在半点钟内都可以赶到。出动飞机不到两分钟就可以飞临上空扫射。官陡门的街道建在河两岸的堤埂上，不到100米长，全是砖瓦房屋，河上只有约1米宽的木板桥贯通。敌人认为这是最安全的地方。粟裕却在这样的地方导演了一幕出奇制胜的活剧。
1月18日，粟裕在二支队司令部驻地狸头桥对参