针对当前的态势和敌人的企图，李宗仁深知这时能否顺利完成鲁南防守作战计划，能否挫败濑谷支队的凌厉攻势，有三个关键问题必须解决：第一，张自忠、庞炳勋两军能否守住临沂一线，挡住坂本支队的南下；第二，中国军队能否在台儿庄，运河一线阻止住日军的攻势；第三，中国军队侧翼部队能否以有力的攻势牵制并不失时机地歼击敌人。其中第二个问题又是关键的关键。因为如果日军攻下台儿庄、运河防线，近迫徐州，则中国军队在临沂一线防守的张自忠、庞炳勋两军以及准备侧击敌军而进入峄县以东地带的汤恩伯军团，都将处于日军的两面夹击之中，中国军队整个鲁南防守作战计划就将破产。
3月24日，蒋介石来到了徐州。在第5战区司令部，李宗仁给蒋介石、白崇禧率领的参谋团汇报战况：
“……目前，虽然临沂一战，津浦北段敌军左臂已被我张自忠部砍断，但是，敌军沿着津浦线而下的矶谷师团，仍在迅速向南推进。汤恩伯将军在津浦线上与敌人作了一阵抵抗之后，即陆续让开正面，退入抱犊崮东南的山区。汤部重炮营则调回台儿庄运河南岸，归长官部指挥。矶谷师团舍弃汤恩伯部而不顾，尽其所有，循津浦路临枣支线而下，直扑台儿庄。敌军总数约有4万，拥有大小坦克车七八十辆，山野炮和重炮共百余尊，更有大批飞机助威，徐州城和铁路沿线桥梁、车站已被日军炸得一片稀烂……”
蒋介石说：“敌人拼命想打通津浦路，沟通南北战场，窒息陇海路，威胁我平汉路侧方，是为了攻占徐州，准备进攻我武汉心脏地区。因此，现在全国战场的中心已经转到了徐州。综合观察整个战局情况，徐州已成为我方战略之凸角，我们理应掌握战机，势在必守，以策万全。我决心再抽调一部分兵力投入徐州战场，扩大战果，并控制黄杰、桂永清、俞济时、宋希濂等精锐部队于豫东归德、兰封一带，巩固第5战区的后方，予敌更大的消耗；争取较久的时间，以便进行武汉守卫的准备工作，而利全局。第5战区虽然久战疲惫，难以久持，但韩复榘伏法后人心大快，士气旺盛，有李司令长官的指挥，有后方的大力支持，也不难克服种种困难。我走后，参谋团留在徐州协助李司令长官作战。我想有李司令长官指挥，又有白副总长协助，台儿庄和徐州之战，一定能予敌重创，取得胜利。我在武汉等候你们的捷报！”
第二天，蒋介石留下白崇禧和林蔚，自己回武汉去了。
蒋介石一走，李宗仁立即把白崇禧独自迎进了自己的办公室，研究作战方案。白崇禧指出：“在统帅部研究的结果，主要是认定了刘斐的作战方案，即以运动战为主的方案，但我心里没底，于是这次我离开武汉前，特地请了中共的周恩来和叶剑英，当面请教过。”
“他俩对徐州会战有何高见?” 李宗仁急切地问。现在是国共合作时期，他很想了解中共对徐州会战的看法。
“周恩来建议：在津浦线南段，应采取以运动战为主，以游击战为辅。在徐州以北可采取阵地战与运动战相结合的方针，守点打援，以达到各个击破的目的。”
“周恩来有眼光！”李宗仁毫不掩饰地表示赞同。指出：“津浦线南段的作战，正如周恩来所言，我31军在明光与敌人血战逾月，我即令李鹤龄(李品仙)向西撤，敌人以狮子搏兔之力猛扑明光，结果扑了个空，没有捉住中国军队主力。后来，哪知中国军队却在敌侧突然出现，将敌人的后路切成了几段，使敌不能北进。徐州以北的滕县和临沂之战，则以阵地战和运动战相结合，都打得不错。”
白崇禧进一步道：“滕县已失，矶谷师团必然骄狂无比，我估计敌人很可能不等待临沂受挫的板垣师团会师，也不等津浦南段的日军北上呼应，便孤军直扑台儿庄，以图一举而攻下徐州，夺取打通津浦线的首功。”
李宗仁连连点头。“对这一点，我已估计到了，依你之见，是否严令汤恩伯部进行阻击?”
“我看，与其阻击，还不如放进来打。”白崇禧说。
“你是说，要汤恩伯军团在津浦线上不阻止敌人前进，统统让开正面，使矶谷师团孤军深入台儿庄，然后再集中优势兵力将其围歼?”李宗仁问道。
“正是此意。”白崇禧继续说道：“守卫台儿庄的孙连仲部，原是冯玉祥西北军旧部，该军最善于防守。再说，台儿庄虽是弹丸之地，可在山东，也是个大镇，有上千个铺户，筑石为城，城中有碉堡75座，并且每户人家的房屋大多是用巨大石块垒砌起来的，也可以说1000多户人家就是1000多个碉堡，我们并不难守。如果孙连仲部能在台儿庄与矶谷师团反复缠斗，消耗了敌人有生力量，那么，我们把握时机，使汤军团猛扑敌后，断其后路，使敌人进退不得，然后集中优势兵力，就可以将其包围而歼灭。”
李表示同意，说：“我也早已判断敌人攻下南京、济南、泰安、滕县后必然骄狂，一定不等蚌埠方面的援军北进呼应，便直扑台儿庄，以期一举攻下徐州，夺个打通津浦线头功。利用敌军的这种骄狂心理，为了诱敌深入，我已命令汤军团在津浦线上只作间断的、微弱的抗击，然后让开正面。待孙连仲部在台儿庄发挥防御至最大效能时，我再命汤恩伯潜行南下，拊敌后背，包围敌军，紧接着，准备在台儿庄附近给敌军以歼灭性打击。”
“看来你早已给敌人设下圈套，请君入瓮啦!”白崇禧见李宗仁的看法与他的想法处处吻合，显得非常兴奋。
李宗仁谦逊地说道：“没有你画龙点睛的那一笔，我们的作战方案就不会那么完整。你一来，再加周恩来的一点拨，更坚定了我‘守点打援’的信心。我马上再一次命令孙连仲，尽一切可能抢修坚固工事，死守台儿庄。”
会战台儿庄的大胆而周密的作战计划就这样定下了。具体方案为：
利用日军急于打通津浦线的骄狂心理，采取“固守台儿庄及运河一线，诱敌来犯，断敌后路，乘机实施反包围，聚歼日军”的作战方针。先令孙连仲的第2集团军的第27、30师，布防于运河一线及台儿庄以西；以第31师主力固守台儿庄，以一部于台儿庄东西两侧支援核心阵地作战；将汤恩伯的第20军团部署于向城、洪山镇一线，阻击北面之敌，并相机让开津浦路正面，诱敌深入，待敌主力进到台儿庄时，即南下袭敌侧背。