预备第五师是由江西保安团队改编的，师长曾戛初兼任鄱阳湖警备司令。在赣北历次作战中，江西的保安团显出惊人的战斗力，他们是江西省主席熊式辉细心培养的劲旅，又熟悉赣北的山丘湖沼地形，所以罗卓英非常倚重这些部队。他们在战时主要警备鄱阳湖区水面与南昌后方要点，不在修水正面阵地之中。
王陵基的第三十集团军下辖韩全朴第七十二军及夏首勋第七十八军一共四个步兵师，都是响应抗战需求由四川省的保安团改编而成。这是四川两次裁军后保留下来的部队，也有一定战斗力。王陵基在川军中资格很老，以干练著称。两位军长也是川军老资格的将领。他们出川抗战，已是武汉会战后期，所以这四个步兵师没有受到严重损失，战斗力完整。薛岳将这个集团军布置在武宁方面，独当一面。
第八军以中央军第三师为骨干扩编而成。这个师从上海打到鄂南，大小会战次次参与。师长李玉堂1938年9月才接任军长。第一九七师是湖北保安团改编的新部队，1938年3月调长沙，从此即在湘中赣北作战，在武汉会战中并没有受到严重损伤。李玉堂军在第九战区算是比较强悍的部队，日后成为战区的主干。
彭位仁的第七十三军是以王东原的第十五师为基础扩编而来的。第十五师是何键湘军中的老牌部队，战斗力较强。柳际明的第七十七师是何键整训的湘军部队。这两个师也是从上海打到武汉的久战之师，1938年4月编为田家镇要塞的防卫军。虽然久战折耗，但是在战力上也算是非同小可。
卢汉的第一集团军是云南为了出兵抗战所编组的滇军精锐。1938年5月徐州会战时，他们曾血战禹王山，重创日军，本身也受到极大创伤，在徐州会战之后几乎失去战斗力，马上后调整训，半年后才逐渐复原。这时在湘中整训，也作为战区的预备队。
第七十四军是一支战斗力很强的部队。它是由浙江保安团队、原山东省北洋军与中央军第一师旁枝部队合编而成的。这个军第五十一师的师歌唱道：“我们在战斗中成长，我们在炮火中相从。我们死守过罗店，保卫过首都，驰援过徐海，大战过兰封。南浔路显精忠，张古山血染红。国家的武力，民族的先锋”武汉会战后，蒋介石指定第七十四军为军委会总预备军，是华中三大战区的前卫。
3月20日下午3点钟，冈村宁次来到第六炮兵旅团阵地后方的军山，督导炮兵突破作战。下午4点半，日军升起观测气球，炮兵部队总共集结了二百三十门轻重火炮，在气球导引下，无预警地全力炮击守军阵地。这是开战以来日军火力最密集的一次炮袭，修水河畔的观音山阵地马上硝烟笼罩，成为人间炼狱。夏楚中军的第七十六师与东北军王铁汉师被轰得头昏目眩，阵地工事全部被毁。部队联络中断，刘多荃和李荃都无从确知前线实况。
连续炮轰三小时后，日军配置在江边的两万具发烟筒，同时发射烟幕和毒气，宽达五公里的淡黄色毒雾，缓缓顺风而下，穿过硝烟余烬，飘进已经成为一片废墟的守军阵地。幸存的守军官兵在逃过毁灭性的炮击后，又遭到大规模毒气攻击，大批官兵中毒，部队马上陷入混乱和恐慌。
当晚7点半，日军中井师团的突破大队，戴上防毒面具，开始强渡修水。这时，守军第七十六师第四五六团的河畔警戒阵地，已被轰得支离破碎，剩下的官兵在毒气中痛苦挣扎，唐际遇团长根本无法掌握部队，失去了组织作战的能力。守军发现日军登陆后，各连自发抵抗，第三营营长在混战中阵亡，第二营营长失踪。
日军登陆之后，穿过已成废墟的阵地猛烈冲锋，唐际遇团残部失散后溃。日军中村师团终于在修水河畔站稳了脚步，炮兵突破作战大获成功。
渡江成功之后，中井师团开始强攻观音山阵地的制高点凤栖山，守军第一营在炮轰时已经瓦解，残部在日军进攻时伤亡殆尽，刘纯仁营长力战殉国。
王铁汉知道凤栖山是整个阵地的防务中枢，于是在混乱中派出于泽霖的第六二九团反攻，于泽霖率部奋勇冲锋，一举冲上凤栖山头。日军集中一个联队加战车二十辆疯狂反扑，于泽霖团寡不敌众，被日军击退，凤栖山于21日凌晨再度失陷，整个观音山阵地已在日军火力俯瞰之下。
随后，日军正面进扑王铁汉师第三一五旅阵地。这个旅在炮袭中损失惨重，无法有效组织抵抗，日军在激战后突破主阵地，赵镇藩旅长率部突围。日军在突破王铁汉师纵深达两公里的阵地带之后，渡河工兵立即赶搭浮桥，准备让战车队渡河。
当时，大雨滂沱，修水水位上涨，对泅渡不利，但大水淹没了守军前沿阵地，水上的障碍物大部分被冲走。21日上午，刘多荃明白防线已经无可挽救，于是急电罗卓英：阵地已遭突破。
罗卓英得知日军已突破沿江防线，便按早期单线御敌的标准程序，设法调动部队填补阵线缺口。他电令刘多荃军原地坚守，李觉军严防日军侧击，并在段珩的第一○七师与王铁汉师交界的呼童桥集结兵力组织反攻。炮兵第二团第三营立即变换阵地，支持反攻。夏楚中军则与预备第九师第三十三团和第三十四团上前阻截。但是大雨影响交通，援军无法迅速集结转运，第九十八师急忙从吴城镇转向永修。