一九三八年春天，粟裕和抗日游击总队离开丽水县大港头后，经过近一个月的行军，经松阳、遂昌、龙游、衢县、常山、开化、屯溪，于四月中旬到达安徽歙县岩寺。wwW.新四军其余各路部队中，陈毅率领的一支队最先到达，驻扎在潜口；由闽北、闽东游击队组编的三支队到达岩寺后驻扎在西溪南。新四军军部机关、特务营及战地服务团于四月五日到达岩寺。
岩寺位于徽州盆地中心丰乐河畔，地势开阔平坦，是南路登临黄山的天然门户。这里历史悠久、地理优越、文风昌盛、人才辈出，是徽文化的重要发源地之一。周边盛产茶叶、木料、粮食及其它山货土产，所以又是皖南主要的交通枢纽和商贸重镇。
部队到岩寺后驻扎在依山傍水西溪南镇芭塘村，根据新四军军部命令，第三支队第七团与第二支队第四团合编，改番号为新四军第二支队第四团第三营。粟裕任第二支队副司令员，副手陈铁君调任军部教导队军事教官，张文碧任四团军法处长，教导队队长刘亨云出任三营副营长。由干校学员组成的随军服务团成员全部分配到第二支队司令部及四团各连队工作。
军部大院设在岩寺镇荫山巷的金家大院。大院是一组清末徽派古民居建筑群，包括四幢三间两层的砖木结构楼房，前后院，占地面积有三千余平方米。军部机关及其下属机构设在军部附近的百姓家中，机要科及电台设在军部以东百余米的一座结构精巧的廊桥里。
在军部，粟裕看到了许多熟悉的面孔。军长叶挺是粟裕参军时的师长；副军长项英、参谋长张云逸以前都是中央领导，粟裕曾多次听他们作报告；副参谋长周子昆、政治部主任袁国平和参加组建新四军的一支队司令陈毅和粟裕共同参加过南昌起义，而陈毅、袁国平又是与粟裕一起参加湘南起义并同上井冈山的。张云逸、周子昆参加了举世闻名的长征，项英、袁国平、陈毅坚守南方经历了三年游击战，都是三年不见面了，一见面都是喜出望外，心绪起伏。眼镜袁国平家在湖南邵阳，与粟裕家乡怀化相邻，算是半个老乡，见了面，更是另有一份亲切。
但最让粟裕激动的还是见到叶挺。叶挺身穿黄哗叽将官军服，扎着宽大武装带，脚蹬黑色长筒马靴，手里拿着手杖，英姿勃勃，派头十足。
叶挺是广东惠阳人，初期追随孙中山，任卫队团营长，后来加入中国**，赴苏联学习，回国后任四军独立团团长，率独立团北伐，长驱直进，连战皆捷，屡建战功，被誉为“北伐名将”，率领的独立团为四军赢得“铁军”称号，后任二十四师师长、十一军军长，指挥了著名的南昌起义，是很有名望的高级将领。粟裕投笔从戎，就是在叶挺的二十四师教导队当兵。粟裕军事素质高，枪法准，被叶挺提为自己的警卫班长，南昌起义时叶挺又亲自将粟裕选拔出来委以保护周恩来的重任。只是粟裕和叶挺自南昌起义分手后不知其下落，至今已有十余年。
见了面后，粟裕和叶挺嘘寒问暖，畅叙旧情，才知这些年叶挺奔波海外。他在南昌起义后又指挥了广州起义。因为广州起义失败，叶挺受到广东省委的责难，后来在莫斯科又受到王明的严厉批评与无情打击和共产国际的冷落，因而脱离了党组织。因为当南京政府还在通缉他这个“反叛要犯”，国内暂时是不能回去，因而流亡海外，去了德国。但叶挺始终心系故土，报国之心不减。“九一八”事变不久后他离开德国，回到澳门等待时机参加抗日救国斗争。
叶挺禁不住叹道：“国家有难，匹夫有责呀！何况我们是军人，更应当担当起保家卫国的责任！”
“八一三”淞沪战役爆发前，看到日本人在上海步步进逼，战火一触即发，身为爱**人又在军事上有特长的叶挺再也忍不住，从澳门抵上海，入住新雅饭店，希望能在战火爆发时能助一臂之力。在新雅饭店，他意外遇上周恩来。
那时周恩来正为南方红军游击队的事发愁。西安事变后，国共和谈，两党关系和到达陕北的红军都得到了妥善处置，但在南方红军游击队的问题上双方僵持不下。蒋介石拒绝承认南方的红军游击队，坚持要对南方红军游击队“实行编遣”，想把他们缴械、瓦解掉。见到叶挺之前，周恩来在南京与何应钦就南方红军游击队改编问题进行谈判，在谈判中，何应钦提出由陈诚来改编和领导南方红军游击队，遭到周恩来断然拒绝，坚持要彭德怀或叶剑英来负责。由于日军侵华步步紧逼，周恩来深知关于南方红军游击队的谈判不宜久拖不决，当务之急是如何尽快找到双方都能接受的条件，迅速使在南方各地的红军散部合法地集合成一支**领导的主力部队。所以当周恩来看到叶挺时，眼前不由一亮：叶挺既参加过国民党，也当过**党员，或许是国民党方面能够接受的解决南方红军游击队改编问题的合适人选。
“恩来同志同我商量，提出由我来‘编游击队’的设想。我回来本意就是为了抗日救国，何况又是领导**的武装，因此，二话没说我就答应了。但向他提出，改编后的部队沿用北伐军第四军的番号，称新四军，意在继承、光大北伐时期老四军的光荣传统。恩来同志说这没问题。”
“我找到正在上海指挥作战的第三战区前敌总指挥陈诚，向他表明希望参加改编南方的红军游击队。他表示同意，答应由他出面向蒋委员长疏通。我又通过高层领导中的冯玉祥、老四军军长李济深等一些朋友积极运动以促成此事。听说由我来改编南方红军游击队，蒋委员长欣然同意。就这样，国共双方算是各退一步达成协议，南方八省的红军游击队改编为国民革命军陆军新编第四军，简称新四军。”
叶挺摇摇头：“不好搞。我请政府发给十八万元作为集合开拔费和整理费，但只得了五万元，每月十六点六万元的经费的方案也没得到批准，只批准每月各种费用为六点五万元。新四军的编制问题上，何应钦不同意恩来同志代表提出的‘两师四旅八团’制，只批准新四军编为四个游击支队，还不发给新四军棉军衣，说什么新四军打游击，不需要军衣。”
粟裕这才明白失去踪影的叶挺为何突然出现并任新四军军长。时势的复杂令粟裕发出一声长叹。
回到驻地，芭塘村其他新四军部队气氛活跃，歌声嘹亮。相比之下粟裕的三营则气氛沉闷。其时三战区说二十日左右要派员来点验部队，军部派服务团的李友声、林圣伟等十余人来帮助部队搞整编工作。当时战士们有的在理发、有的在洗补衣服，还有的在柴堆旁捉虱子。粟裕看到他们过来，很高兴，和他们一一握手后说：“你们来得正好。我们二支队是由闽西南红军游击队和浙江平阳游击队编成。闽西南的已整编就结，平阳部队因刚到，正忙于整编工作，迎接三战区来点验。你们除帮助整编外，还应该向部队宣传抗日救国的道理，帮助教歌、出墙报，使部队情绪活跃起来。”
写呀画呀，跳呀唱呀正是服务团成员的强项，他们当中立即有人挺身而出教战士们唱歌，《松花江上》、《义勇军进行曲》、《大刀进行曲》这些著名的抗战歌曲开始在粟裕的部队传唱。
没几天，赣粤边、闽赣边、闽西、闽南的红军游击队在张鼎丞、邓子恢的率领下来到岩寺入住芭塘村。张鼎丞曾任福建省苏维埃政府主席，现任二支队司令员。粟裕随叶挺和项英等军部领导前往芭塘看望他们。