所以，国民党军在第二次长沙会战中的悲剧实际上在开战前就决定了。
第二次长沙会战的序战首先在鄂南方面第27集团军的防地大云山打响。
大云山位于湘鄂边境，在新墙河的上游，海拔960米。这里森林茂密，地势险要，属于第9战区的游击区。第9战区的部队常到这里活动，并不时对日军进行袭击。
1941年9月7日晨，集结于忠坊、桃林、西塘之日军第6师团首先向南山、雁岭、鸡婆岭、草鞋岭的国民党守军阵地发起了猛烈攻击。
阿南惟畿令第6师团进攻大云山国民党军阵地，主要是为了掩护其主力向湘北集结，当然击退了该地守军，对其以后的作战也是十分有利的。他原定于5日开始大云山作战，但因为天气恶劣而被迫推迟到7日。
攻击开始后，日军在炮火、飞机的掩护下，从东、西、北三面对大云山守军展开围攻。第58军新编第11师、第4军第59、第102师分别与日军展开激战。战至下午，日军进至南冲、孟城、长安桥、甘田一带。
8日，日军继续攻击前进，并以主力向大云山南、新墙河北之草鞋岭、甘田、港口方面猛攻，企图向新墙河南岸进犯。不料，在其突进至比家山附近后，遭到第4军的痛击，被迫暂缓南下。而第59、第102师及第58军新编第10师仍在白羊田、甘田附近地区阻击日军。
9日，日军一部越过新墙河。杨森立即以第4、第58军及第20军第133师发起反攻，侧击和截击渡过新墙河的日军。经过激战，日军被压迫退回新墙河北岸五龙桥、白羊田一带。
这时，日军第40师团已经到达大云山附近，接替第6师团继续围攻大云山，而第6师团则开始陆续退走，准备与以后到达战场的日军主力共同对湘北发动总攻。
10日，杨森指挥新编10师自东向西、第59师由西向东、第37军第60师由南向北包围日军。战至中午，新编第10师夺回大云山的制高点，并收复了石塘冲、石壁桥，将当面之敌压迫到石庙一线。第59、第102师则全力进攻茅冲、和尚庄、邓家桥一线日军。当天晚上，第20、第58军的攻击队和第6挺进队一部，分途向大沙坪、羊楼洞、赵李桥、石城湾各地之日军进行夜袭。
11日拂晓，第59、第102、第60及新编第10师合力会攻残敌，未及被换走的日军第6师团第13联队被围困在甘田附近，伤亡惨重。正当国民党军各部准备将其彻底消灭时，日军第40师团重松支队赶到，将奄奄一息的第13联队解救而去。
12日，国民党军各部对重松支队展开围攻，并将其截为两部。当日晚，该支队主力进入港口附近，遭到第58、第4军各一部的袭击；而其预备队第235联队后藤大队则被堵于马嘶塅西侧一带，遭到重创。
13日上午，日军第40师团龟川联队在港口北5公里的白羊田南侧一带与第58军发生遭遇战。随后，第40师团仁科联队及师团主力赶到，也投入作战。这样，日军第40师团的两个联队就在白羊田南侧一带东西3公里的范围内，与国民党军混战在一起。激战竟日，双方形成僵局。晚上，第58军又不断对日军进行夜袭。当日晚，青木成一师团长向上级做了这样的战况报告：
师团主力在白羊田南侧击退由13日晨来攻的敌新编第11师的2个团。重松支队正在团山坡北侧附近，与周围敌军交战中。
然而此时坚守马嘶塅北侧高地的后藤大队，仍处于敌新编第10师的包围中，在与支队主力失掉联系的情况下孤军奋战。各种迫击炮、山炮弹射击在面积狭窄的阵地上，并多次与逼近阵地前10米的重庆军反复展开手榴弹战，重机枪也有两挺遭到破坏。
前进到湖野溪西侧台地的师团战斗指挥所，14日下午恢复了与龟川部队的联系，当即命令仁科部队坚守该地东侧台地。此时始得知后藤大队的苦战状况。
师团不期遭遇的敌第58军，为在东方约20公里的黄岸市整训中的部队。师团对其行动毫不知晓。加之，对大云山周围已扫荡完毕的先入为主的思想，因而对我军刚一展开即遭到强烈反击的情况，完全出乎预料。
14日，接到第40师团报告的阿南惟畿于次日晚令荒木支队投入到大云山战场，支援第40师团作战。
荒木支队接到命令后，立即出动。16日夜，当其赶到甘田东侧时，受到新编第11师的顽强阻击。战至18日，该支队终于到达马嘶塅，与在这里已苦撑了数日的后藤大队会合。
阿南惟畿对第40师团的进展情况甚为不满，他认为“第40师团未以全力尽快捕捉当前来攻之敌，似有墨守军最初攻击准备之感”，遂令作战主任“对此加以督促”。
随后，第40师团一面与国民党军作战，一面按预定方案向沙港河右岸集结，并逐渐做好了向湘北进攻的准备。
至17日，日军第11军已经完成全面攻击准备。第3、第4、第6、第40师团在杨林街至沙港河下游一线约20公里之间并列展开。
一场更大规模的战斗即将爆发。
9月18日拂晓，日军第11军发起了全面进攻。
此时夜幕尚未完全打开，若明若暗之中，一阵阵排山倒海般的大炮轰鸣，震撼了寂静的山野。数十架飞机瞬间投下成吨的炸弹。空气被撕裂，大地在颤抖，晨光初现之中，一片血肉横飞。随后，日军步兵在炮火和飞机的掩护下发起冲锋。