他单身匹马找毛主席，主席让他跟林彪搭档，还告诉他枪杆子最好用

1931年在上海从事地下工作的聂荣臻经历了顾顺章叛变和向忠发叛变，被迫离开上海，途经福建到瑞金苏区，到福建时，省委给了聂荣臻一匹马，他单身匹马就上路去找毛主席了。

这条路，他在南昌起义后南下时走过，长汀离瑞金有60来里。快到中央所在地了，又受到宁都起义消息的鼓舞，他感到心情舒畅。心急马快，晚上9点多钟，他就赶到了瑞金，首先碰到叶剑英。叶剑英说：“单身匹马走，并不都是巩固区，还有一定危险哩！”他当晚在瑞金见到了毛泽东、周恩来和朱德。几个人你一言，我一语，大家都很高兴。这是聂荣臻第一次见毛泽东，他还记得当时毛主席身着红军服，头发长长的，神采奕奕，说话很诙谐。

毛泽东说：“你来了好。你来了首先到五军团。宁都暴动了，你去那个部队，代表军委，到五军团工作，找上层谈话，做团结安定这个新起义部队的工作。”这样，就没有按照原来的分配方案去湘鄂赣。

聂荣臻谈到上海特务、叛徒的横行情况。毛泽东插话说：“还是这里可靠。”聂荣臻说：“对呀！在白区地下工作，只有招架之功，没有还手之力。”

毛泽东笑了笑说：“还是拿这个好。”说着指了指身边的枪杆子。聂荣臻会意地笑了。

聂荣臻到苏区的时候，苏区正呈现着一派兴旺景象。第三次反“围剿”已胜利结束，第一次中华苏维埃共和国工农兵代表大会刚刚开过，中华苏维埃共和国临时中央政府和中央革命军事委员会在1931年11月分别成立。宁都起义，红军一下子增加了1.7万多人。一连3次反“围剿”的胜利，使敌人震惊、恐慌，人民振奋，红军正经历着一个大发展的时期。

聂荣臻先到红五军团去帮助工作。红五军团由宁都起义的部队改编而成，下辖十三、十四、十五军，总指挥季振同，副总指挥董振堂，参谋长赵博生，政委萧劲光，政治部主任刘伯坚。他找上层军官谈话，谈形势、谈政策，使他们安下心来。这支部队很快成长为红军的主力之一，在第四次、第五次反“围剿”和历次战斗中，打了不少胜仗，在长征中担任后卫阻击追敌，立下了殊勋。

不久，聂荣臻被任命为中国工农红军总政治部副主任。主任是王稼祥。

他到职后便参加打赣州。打赣州的作战会议是在瑞金召开的。对于打赣州，有两种意见。毛泽东认为赣州是敌人必守的坚城，红军技术装备差，很可能久攻不克，于红军不利，反对打这一仗。朱德也不赞成打赣州。但是，中共临时中央1931年12月6日发出“首取赣州，迫吉安”的指示，中共苏区中央局决定攻打赣州。聂荣臻初到苏区，情况不明，没有表态。1932年2月4日打赣州的战幕拉开了。

赣州三面环水，易守难攻。守城的敌军有8000人，主攻部队是红三军团（军团长彭德怀、政委滕代远）有1.4万人，红五军团的十四军、十五军作预备队。第四军在南康、新城、杨眉寺一带警戒广东方面的敌人。聂荣臻跟随红三军团的部队行动，做战场政治思想工作。他在第一线目击了赣州之战的激烈情景。红三军团的指战员打得英勇顽强，前赴后继，用炸药炸开一个缺口，但被敌人用火力封住，未能突进城垣。尔后出现久攻不下的局面。3月初，敌罗卓英率两个师约2万人，增援赣州，并以一部隐蔽进入城内，清晨突然反击，使红三军团处于十分不利的境地，损失很大，靠五军团掩护，于3月7日撤出战斗。是役历时33天，城未攻克，损兵折将，又丧失了扩展苏区的有利时机，是个失败的战役。

1932年3月12日，重新组建红一军团，中央革命军事委员会任命林彪为军团总指挥，聂荣臻为政治委员。聂荣臻随即到红一军团工作。从此，他与林彪一起领导这支部队，南征北战，长达5年半之久，使红一军团成为中央红军的主力之一。在这支部队的建设上，聂荣臻是有重要贡献的。