1946年1月5日，国共两党达成了停止国内军事冲突的初步协议，1月10日正式签署协议，毛泽东、蒋介石同时分别向各自部队下达了停止国内军事冲突的命令，规定停战令1月13日午夜生效。聂荣臻坐镇张家口，指挥各部队击退国民党军队力图多占地盘的进攻。
2月1日，中共中央下达了关于目前形势和任务的指示：“重庆政治协商会议，经激烈争论之后，已获得重大结果??这是中国民主革命一次伟大的胜利。从此中国即走上和平民主建设的新阶段。”2月14日，中共中央指示各地进行整编军队的准备工作。3月6日，聂荣臻接到中央指示：“无论将来情况如何，我们均需精兵简政??如何实行精简，应速决定方针。我们意见，第一期精简三分之一，并于三个月内完成??第二期再精简三分之一。”①3月15日中央又指示：“除东北及热河外，各地第一期复员整军（即精兵简政包括党政军民学所有脱离生产人员在内），不论时局变化如何，均应力争完成，以裁减老弱及无职务、无武器人员，合并机关，减少单位，充实部队，减少财政支出，利于作长期打算为目标。中央希望第一期复员三分之一左右，时间三个月左右完成，由各地自己做成计划（此计划须能适应和平、战争两种环境），电告中央批准即可执行。”①2月，晋察冀中央局发布《关于编制人数的规定》：全区共编22.5万人，其中野战军15万人，地方军7.5万人。3月1日，晋察冀中央局根据中共中央指示精神，又发布《关于复员工作的决定》。据此，聂荣臻组织精简整编，野战军由9个纵队减为4个，地方军增加约5万余人，编为6个军区， 21个军分区， 13个独立旅，总计复员约10万人。
聂荣臻在主持这项工作中，由于受和平思想影响较大，因此晋察冀复员人数较多，时间也较快，比起其他各区要突出一些。精简整编是中央的精神，本身并没有错，精简了机关，充实了战斗部队。问题是复员人数多了些，影响到晋察冀部队的战斗力和尔后的作战。
当年的张家口卫戍司令员郑维山在回忆录《从华北到西北》一书里写道：我认为，第一期复员三分之一，步子似乎大了些（第二期还要精简三分之一），而且光靠“裁减老弱”等项又不可能达到三分之一，势必要大伤军队的筋骨方能完成。
在复员问题上，晋察冀却是一个例外。它不仅如数复员了三分之一，伤了部队的元气??夏员整军后，野战军缩编为四个纵队、除第一纵队外，每纵队两个旅。②当年的冀热辽军区司令员李运昌也回忆说：和平民主新阶段，对内战的危险估计不够。为此我给聂司令写了封信：减这么多人不行，国民党没有诚意。这影响了以后的战争进程。那一段有点失误。对解放战争初期作战不利，拳头不硬。
对于这个问题，聂荣臻思想上是有矛盾的。一方面，他看到了紧迫的战争趋势，号召全区指战员“坚决打击挑起内战的祸首”。另一方面，在谈到精简整编时，他又说和平是大势所趋，要把人员减下来，并把亲手组建起来①《中共中央文件选集》第16册第86页，中央档案馆编樱①《中共中央文件选集》第16册第92页，中央档案馆编樱的野战纵队砍去5个。
作战处长唐永健回忆说：是大打，还是和平？当时甘英等人由北平回到张家口，聂老总同他们谈话。他们提出意见，说北平国民党到处抓兵，补充军队，但在路上看到我军成批复员，这样合算吗？聂老总当时回答：大势所趋，非要和平。后来我也问过他，他说：“我也有矛盾，一面担心内战再起，一面又看到中央的决心很大??国民党军无法打下去。美国也不支持他打下去。那就按中央的决心办吧。”
停战令下达以后，国民党军队在晋察冀各地大肆进行“蚕食”解放区的活动。聂荣臻领导边区军民积极进行反“蚕食”斗争，取得了许多胜利。1月13日停战令生效后，傅作义部4000多人违约抢占集宁，晋绥军区一个团、晋察冀军区一个旅零一个团配合作战，于18日夺回集宁，俘2000多人。当晋绥和晋察冀两军区部队攻城时， 17日傅作义向北平军调部告急。军调部国民党中校林光军、美军上校莱克于当天来到张家口，要求去集宁视察。聂荣臻以集宁属晋绥军区管辖，须经联系才能去为理由，拖延时间，同时通报攻集宁部队尽快攻城。军调部人员只得约定18日再去。待他们18日到达集宁时，晋绥和晋察冀军区攻城部队已于当天收复集宁，并于两小时前将战场打扫完毕。傅作义侵占集宁的图谋落了空。2月，国民党军一个师进犯平泉以南地区，被冀热辽军区4个旅包围，歼1300多人。要不是军调部的干预，本可全歼这个师。冀中解放区是国民党军“蚕食”的重点。冀中军民5月初在泊镇歼敌1100多人。5月下旬，又在胜芳保卫战中歼敌1500多人。聂荣臻为此专门写了《胜芳保卫战的经验总结》。
在这期间，聂荣臻还根据中共中央指示，组织边区军民进行练兵、减租、土地改革和生产活动。2至4月的政治练兵，提高了广大指战员全心全意为人民服务的思想觉悟，提高了战胜敌人的信心和决心。在进行了射击、投弹、刺杀技术训练和班、排战术战斗教练后，部队军事素养普遍得到了提高。土改和生产活动的开展，改善了边区人民群众的生活，提高了阶级觉悟，激发了支援革命战争的热情。