陈毅一面命令教导队跑步上来，一面也拔出手枪，扬起手对参谋人员说：“跟我冲上去！”
粟裕和陈毅两人一左一右，一马当先，带着警卫员分队和机关人员向着敌人边打边冲。
当时康林正在安排警戒，听到枪声，心头一惊，连忙带着人向着枪声方向冲过去，老远看到是粟裕、陈毅带头冲锋时，头皮一炸，红了眼，不顾一切地跑到粟裕、陈毅前面边打边冲。
敌人在粟裕和陈毅率领的人马勇猛冲杀面前，惊慌失措，乱作一团，争相逃命。这次战斗结束后抓了一些俘虏，缴了一些枪，胜利地回到了宿营地。当活捉的敌人看到打他们的不是大部队而是一些机关干部时，一个个目瞪口呆。机关里很多人觉得跟着粟裕最有安全感和荣誉感。
战后审问俘虏得知，这是被陶勇的三纵击溃逃窜的顽军保四旅一部。黄昏时这股敌人在高粱地里躲藏着。大家不知道是临时休息，服务团团长朱克靖以为要在这里住上一个晚上，就找负责安排住宿的曾若空，要求给他们安排住地，曾若空告诉他们：“上级没有指示在这里住，只是暂时休息一下。”敌人听到了，就打起来了。
把敌人打跑了，指挥部无一伤亡。陈毅战后当场宣布连长撤职。随后机关驻在老叶庄。
陶勇率三纵于二十九日凌晨解放黄桥，全歼何克谦部，并争取何部特务团陈宗保起义，另外还抓了何克谦部几百俘虏。何克谦部原系土匪、地痞组成，成份复杂。打日本要的是人手，但粟裕抱着宁缺勿滥的态度，和陈毅商量了一下，下令全放了。
那时吴强和冯定从军部调到苏北，分配到新建的抗日军政干部学校工作，吴强当政治队二队指导员。那天傍晚，吴强来到指挥部去，刚进屋，看到他的偶像粟裕在一张桌子前看文件，敞开军服，手里轻轻地挥着芭蕉扇子。粟裕看到吴强来了，他知道吴强分配在干校，便笑着问吴强：“在干校开始工作了？”
吴强应了一声，看着他消瘦的面容说：“两个多月不见，首长身体怎样？”
粟裕笑笑说：“这一阵，休息少一点。”
吴强看粟裕在忙，就没有多呆，又走了去来：“瘦了，这样的大热天，不要太累了。”
粟裕一边送吴强，一边说：“韩德勤不让我好好休息呀！”
吴强说：“怎么样？他还想再跟我们较量较量？”
粟裕说：“较量还没真正开始哩！思想上要做好准备，说不定有大仗打。”
第二天，陈毅、粟裕率指挥部开往黄桥。经过一路急行军，指挥部机关人员到达黄桥镇郊。粟裕命令一部分部队继续向南至沿江一带搜索，乘胜攻克驻西来等地日伪军据点；陈毅下令各部检查军风纪进入黄桥。
保安四旅的土匪官兵在黄桥镇上盘据数年，闹得鸡犬不宁，居民恨之入骨。现在陈毅和粟裕率领的部队将其歼灭，拯救群众于水深火热之中，再加全体指战员纪律严明，所以老百姓打心底里拥护、欢迎这支抗日队伍。当下粟裕在人群中，只见沿途群众夹道相迎，欢快的锣鼓声和拥护新四军抗日的口号声交织在一起，显得格外热烈动人。新四军进驻后，出安民告示，组织镇政府、民众团体和自卫队。
《抗敌报》发表了陈毅同记者的谈话，大意是：国民党投降派在江南向新四军进逼，顾祝同，上官云相的军队尾追我军之后。我军为团结抗战，多方忍让，避免磨擦，因此到苏北沿江一带继续抗战，觅求抗日之地，而何克谦部阻我东进抗日之路，故解除其武装。
进入黄桥后，苏北指挥部机关设在镇东一所中学里。这座青砖大瓦的工字型两层楼，是黄桥最有气派的建筑物。
陈毅作了《黄桥的新生》：黄桥是人间的地狱，何克谦是**的阎罗，拉夫绑票，敲诈勒索，叫黄桥民众怎能生活？你这残害人民的土匪，你这破坏抗战的国贼，你不打日寇,整日整夜淫乐，你反()共摩擦，专与汪伪暗和。谁是黄桥的救星，来赶走这害人的恶魔。拯救百万受难的民众。挣脱压制了千年的枷锁。苦等到七月二十九，新四军从天降落。黄桥重见天日，军民欢乐狂歌。要联合起来，消灭何匪残部,创造光明幸福的新苏北，建立独立自由的新中国。
这首词，被服务团的作曲家章枚谱上曲，很快传开了，与之一起流行的还有一首歌：
“天是我们的天哎，地是我们的地；我们（呀）的天地，不能让给日本兵；大家快快团结起，加入新四军；我们老百姓，我们也是兵，我们要保卫国家和自己，只有赶出日本兵，大家（呀）好活命。”
当地百姓兴起一股参军热潮。
过一个星期后粟裕召集各纵队司令开会，检查结果，一纵扩大了一百二十多，二纵二百八十多，三纵扩大五百多，师直属队一百五十余，共一千二百多。江南指挥部人马已由六千人增加到七千二百人。以后又把部队散开做民众工作，努力扩大自己。
未几，**电示陈毅、粟裕：“省韩集中二十个团向你们进攻，望你们尽可能固守。”