1934年8月至1938年3月，粟裕率部挺进浙西南，为策应中央红军的战略行动付出巨大牺牲，在国民党统治的腹心地区孤军奋战，表现出他对党和人民、对革命事业的无限忠诚。
　　 挺进浙江
　　 1934年6月，在红军主力被迫进行战略转移前夕，红七军团奉命改编为北上抗日先遣队，深入闽浙赣皖国民党统治的深远后方，掩护中央实施战略转移，推动抗日运动。
　　 7月6日晚，先遣队约6000人从江西瑞金出发，开始浴血征战。其间，一度转战浙西南的庆元、龙泉，进占庆元县城，取得竹口大捷。10月中旬，中央红军主力及中央机关8.6万余人，踏上战略转移的征途，开始长征。至此，先遣队奉命保存实力，进入闽浙赣苏区，结束4个月的“小长征”。先遣队以弱小的兵力，浴血敌后，征战1600余公里，掩护中央实施战略转移，高举抗日大旗，并为各游击区留下军事骨干，作为先遣队参谋长的粟裕，发挥了重要作用。
　　 1935年1月，先遣队与红十军合编的红十军团（仍称北上抗日先遣队），在江西怀玉山区遭敌重兵包围，指战员大部牺牲，战略策应长征的行动遭受挫折，粟裕指挥先头部队浴血突围，转移至原闽浙赣苏区的德兴县广财山，找到闽浙赣省委，保留了革命力量。
　　 省委随即传达苏区中央分局电令，以先遣队先头部队和突围部队为基础，组建红军挺进师，进入浙江开展游击战争。浙江是国民党统治腹心地区，斗争环境特别恶劣，1927年6月建立的中共浙江省委屡遭破坏，不到两年就更替了十位书记（代理书记），致使1929年4月中共中央被迫撤销浙江省委建制;全省相继爆发的60多次农民暴动和红十三军的斗争均遭镇压。以粟裕为师长、刘英为政委，仅500余人的挺进师，不惧兵力弱小、弹药匮乏、毫无接应，抱着继承先烈遗志、誓死挺进浙江的坚强决心，誓死出征。途中遭敌袭击，电台被毁，与上级失去联系，陷入孤军奋战后，依然义无反顾，决心以自己的行动，打开进入浙江的局面。
　　 为实现战略转变，部队在闽北开展整训，建立政治委员会加强领导，以适应游击战。接着，挺进师往返转战于闽浙边，吸引、调动敌人，造成敌人误以为挺进师将立足闽浙边，然后于4月下旬在庆元斋郎精心部署，迎击被吸引而至的近4000敌人，取得大捷，打开进入浙西南开辟根据地的通道。
　　 转战浙西南
　　 斋郎大捷后，粟裕和刘英率部乘胜挺进浙西南腹地，在松阳县境得到当地进步群众组织的欢迎后，分兵以发动群众，集中以打击敌人，开辟根据地。1935年6月上旬，挺进师各部会合于松阳县小吉村，召开政治委员会会议，部署创建根据地。7月，粟裕率挺进师师部机关进驻至遂昌县王村口，全面开展根据地建设。
　　 为吸引和牵制敌人、战略策应长征，挺进师广泛开展游击战。每到一地首先消灭国民党的区乡武装和地方反动势力，然后开仓济贫，打土豪分发浮财，发动群众投身革命。开展八一军事大示威，主动出击，袭击大小城镇19个，把革命烈火烧到浙赣铁路线。在松阳、遂昌、龙泉、江山、浦城五县间建立革命根据地，轰轰烈烈地开展查田、插标、分青苗的土地革命。
　　 挺进师的斗争，迅速吸引了国民党军。1935年8月，国民党调集以第十八军为主力约7万兵力，大举“清剿”浙西南。粟裕等创造性地实行“敌进我进”，留下第二、五纵队在根据地内坚持，率主力突破敌包围圈，挺进敌后，转战闽浙边，吸引、调动敌人，后与叶飞率领的闽东红军会合，组建中共闽浙边临时省委，联合开展斗争，开辟浙南游击根据地。
　　 1936年2月以后，刘英率突击队在浙南开展工作;粟裕率牵制队广泛游击，数度转战浙西南，在龙（泉）浦（城）江（山）遂（昌）边建立游击根据地。1936年6月，粟裕率部收复王村口时，仔细侦察分析敌情，深入群众调查研究，然后根据敌人布防严密、当地老农判断近日有暴雨天气的信息，率部于深夜出发，跋山涉水绕过王村口向衢县方向开进。途经独口村时只缴敌哨兵的枪械，任凭敌哨兵逃回王村口，待敌人确信红军已开赴衢县时，又把部队秘密拉回到龙泉住溪，然后利用暴雨大雾天气和敌人放松布防之机，突袭王村口，无一伤亡地收复王村口。这次行动表现出粟裕坚持以最小牺牲换取最大胜利、机动灵活的战略战术。
　　 1937年初，国民党再次大举“清剿”挺进师，粟裕等针对敌人的大拉网战术，将部队“化整为零”，分兵游击。4月，粟裕率部活动至遂（昌）宣（平）汤（溪）边区，与谢文清部会合，建立游击根据地，依托根据地出色开展反“清剿”，使敌哀叹“未奏肤功”。
　　 实现抗日夙愿
　　 自1934年7月北上抗日先遣队出征开始，粟裕始终把宣传、推动抗日运动作为重要任务，在挺进师开展活动的各地，到处都有“红军是抗日的武装力量”“废除卖国条约”等宣传抗日的标语。
　　 粟裕非常关注形势的发展和变化，不仅一再呼吁“停止内战，一致抗日”，而且在失去上级领导的情况下，自觉地根据形势不断调整斗争策略和政策，用实际行动争取团结抗日。一是将挺进师没收委员会改为征收委员会，不再打土豪筹集经费，而是根据地主豪绅的负担能力，向其征收抗日捐;二是推行“白皮红心”的两面政权，对国民党乡镇长和保甲长，由镇压改为争取，使他们为红军服务;三是区别对待士绅和中等商人，进步的欢迎，中立的允许来去自由，继续营业不受侵犯，欢迎平原城镇的殷实客商进山做买卖，发展山区经济，改善群众生活;四是改“欢迎白军士兵杀死官长拖枪当红军”为“欢迎白军官兵枪口对外，同红军一起共同抗日”;五是做好团结和争取城镇知识分子的工作，许多知识分子手中的书报，成了粟裕了解和分析形势的重要信息来源。
　　 1937年9月，率部活动在浙西南的粟裕，根据形势，敏锐地觉察到国共两党可能已开始合作抗日。得到证实后，他立即向遂昌县当局倡议合作抗日。9月18日，遂昌县当局复函，要红军派全权代表到金岸“接洽”。高度警惕的粟裕识破对方欲收编红军的阴谋，要求对方派代表到根据地谈判。
　　 10月14日，粟裕指派谢文清、刘清扬与遂昌县当局代表在根据地中心门阵村举行和谈，达成合作抗日协议。10月19日，粟裕率部开赴浙南集结待命。离开门阵前，许多根据地农民积极分子要求參加红军上前线抗日，但粟裕坚持不带走有家庭负担的同志，不增加群众负担，只带走了没有家庭负担的7人。
　　 1938年3月18日，粟裕率挺进师主力改编的新四军第三支队第七团队离开浙南，奔赴皖南前线，开始驰骋抗日疆场和解放战场。