临出发，陈毅又将自己的警卫员邹志成送到先遣支队。一次邹志成偶然对陈毅同志提到说还没见过外国人。陈毅就让邹志成去先遣支队锻炼锻炼，去打日本鬼子，说日本人就是外国人。邹志成十五岁就参加红军，是部队出了名的神枪手，枪法很准。更重要的是邹志成脑子灵活，记忆力好，当陈毅和重要人物谈话时，他记住百分之八十的谈话内容。
二十八日，二支队侦察连离开驻地田坊前往潜口。侦察连是张鼎丞司令员从福建带过来的部队，因此出发那天他亲自作动员。
张司令讲话之前，首先领着指战员喊口号：“打倒日本帝国主义！”“打倒汉奸卖国贼！”喊过后他说：
“你们是抗日先遣队，粟副司令是抗日先遣队的健将。你们要听从粟裕司令的指挥，挺进江南敌后，要了解那里的战略情况、敌情、民情、地形、天时、地利。先遣队是宣传队，你们到那里要做群众工作，宣传群众、组织群众、武装群众，执行三大纪律八项注意，和群众打成一片。你们到那里打开了局面，我们后续部队就有立足之地，祝你们旗开得胜。”
“张司令的指示，简明、生动，是对我们连的信任和关怀，给了我们很大鼓励和鞭策。”侦察连长钟春山代表全连指战员发言，“我们一定胜利完成上级交给的战斗任务。”
潜口村汪氏金紫祠，新四军抗日先遣队誓师出征，叶挺、项英、张云逸、袁国平都来送行。
叶挺紧紧握着粟裕的手久久不愿放开。他看到粟裕身边的机要员何凤山没有武器，当即取下自己的手枪送给他：“小鬼，我这把手枪送给你，你带它先遣敌后，杀敌立功。”何凤山连声说：“谢谢军长，谢谢军长。”叶挺说：“不论发生什么情况，你都千万不可离开首长身边，我这里重托你了。“
粟裕感动得眼睛湿润了。
因为一来先遣支队是临时抽人凑成的，与正规部队相比，游击队纪律散漫，训练装备也差，再加上干部战士来自南方八省，说的都是地方方言，上下左右互不了解，部队不易掌握；二来部队从崇山峻岭一下进入苏南水网地带，地形生疏，群众陌生，各方面都一时难以适应；再则是区区五百之众要在日军重兵驻守的南京鼻子底下活动必定险象丛生。所以叶挺和项英都再三强调抗日先遣队一定要在粟裕司令的统一领导和指挥下，团结战斗，用刺刀和热血杀出新四军的威风，胜利完成党交给的光荣任务。
军委新四军分会副书记、一支队司令员陈毅同志作了动员讲话：
“先遣支队挺进敌后实施战略侦察，任务既是非常艰巨，又非常光荣。有人说，新四军装备不好，到江南同日本鬼子打仗，是肉包子打狗，有去无回。说这话的人是恐日病，见物不见人。在**的领导下，我们曾经与数十倍于我之敌较量过，我们打胜了。这次到江南去，只要大家发扬红军长征和坚持南方三年游击战争时期的优良传统，英勇顽强，机智灵活，遵守纪律，服从领导，加强团结，依靠江南人民，我们就一定可以战胜日本强盗。让我们以向敌后的胜利进军和沉重打击日寇的铁的事实去回答那些恐日病者吧！”
粟裕说：“我们向江南敌后挺进，完成肩负的光荣任务，就要遵守与执行三大纪律八项注意，以模范的行动，团结和依靠群众。我军不拉伕。不派款，与国民党军队不同，使群众看清我军是人民的军队。要用我们的实际行动，把在群众中流传的‘出门遇了兵，有理讲不清’改成‘遇了新四军，亲如一家人，道理也可说分明’。”
随后，粟裕率五百勇士从岩寺的潜口村出发，乘汽车经太平、石埭到青阳，住了一夜。所经地区是川军第五十军所部防区。第五十军中将军长是郭勋祺，与陈毅既是四川同乡，又是少年时代的同学和球友。陈毅为了保证部队顺利进军亲自护送。全部通过郭勋棋部的防区后，粟裕与陈毅挥手告别，率先遣支队徒步行军到南陵，在南陵城内宿营，司令部住在孔庙。
一个星期前，有四架日机对县城轮番轰炸。炸死一百七十多人，炸毁房屋两百多间。时间已过去一个星期，但现场仍是一片狼藉。街头弹坑比比皆是，满目疮痍，街道两旁的残垣断壁，被大火烧光了枝条的树干像是在控诉日本侵略者犯下的滔天罪行……
日寇想要用死亡威胁中国平民，使我们中国不战自乱，失去抵抗的意志。日军的残暴从前只是耳闻，如今亲眼目睹现场悲惨的情景，粟裕和先遣支队指战员无不义愤填膺，决心要为死难者报仇！
第二天，几架敌机嗡嗡地飞临南陵上空，盘旋了几圈后向北飞去。粟裕抬头眯眼看了一会，说“明天日机定来轰炸！”同时，派人向同住的国民党友军发出通告。
当天晚上，连日行军疲劳，指战员们很快进人了梦乡。子夜时分，粟裕突然下令部队紧急集合，于拂晓前到南门外集合。部队按命令集合后向东北方向行军，进行防空演习。走了十几里，到达麒麟桥就宿营了。
“粟司令！今天为什么走这一点路就住下了？”见习参谋董南才惊奇地问。
“南陵离芜湖很近。这一带情况复杂，有特务、汉奸搞情报，估计敌人已知道我们在南陵。昨天敌机是侦察我们行动的，可能会来轰炸。”粟裕解释。
天刚破晓，“轰轰轰！”“咚咚咚！”九架敌机反复盘旋俯冲轰炸，丢下几十颗炸弹。群众死伤数十人。司令部所在地孔庙与二连的住房都遭到轰炸。友军不听，结果被炸得乱七八槽，先遣队则无一损失。
干部们不禁伸伸舌头说：“乖乖，对天上飞的家伙，粟司令都能说个准，真神哪！”
先遣队上上下下都是刚从大山上下来的，不少干部和战士还没见过什么世面，不要说飞机，连汽车都没有见过。乍看到汽车瞪起眼睛闪着“电”、响着“雷”“飞”过来，都以为是什么妖魔鬼怪。他们也不怎么了解粟裕，现在看到粟裕见机不惊，而且还能对它做出这样准确的判断，使部队避免了损失。上上下下觉得粟裕神，了不起，是个见过世面的人物，一个个内心佩服。于是，临时凑成的先遣支队立时形成了强大的凝聚力，令行禁止，一往无前！