李宗仁根据蒋介石的电令，立即将部队分成五路，分别突围。
第一路：李宗仁长官司令部及廖磊集团军，由徐州沿津浦路南下，至宿县地区再折向西南，于界沟附近冲过涡河封锁线。
第二路：汤恩伯军团及机械化部队，由陇海路运河车站向西撤退，在符离集以北越过津浦路，突破宿县至永城间敌人封锁线，再从涡阳突破敌涡河封锁线。
第三路：孙连仲部及张自忠第59军，由台儿庄向西南退却，从徐州以南越过萧县以西的封锁线，在永城附近再次冲出封锁线。
第四路：关麟征部及川军一部，由徐州越过陇海铁路，向西北方向突围，突破黄口、李庄封锁线。
第五路：孙震部，由徐州以北柳泉向东南急进，跨过陇海铁路，经泗县折向西南而行，在固镇与蚌埠之间穿过津浦路，从怀远以西突破日军的涡河封锁线。
5月17日，李宗仁下令所属各部按序列，部署逐次突围。令汤恩伯军团向西突围，猛烈冲击日军；又令孙连仲、张自忠、庞炳勋在运河设防，凭险固守，以掩护大军撤退。
中国军队且战且退，阵形不乱，按部就班地向西、向南撤退。日军阻一处，中国军队冲一处，无所不破，大军向河南南部及湖北北部集结，各路都相继冲出重围。为避免与优势之敌作消耗战，当各路敌军向徐州步步合围时，李宗仁令所部各路守军，作稍事抵抗后，即相机撤向山区、湖沼地区，进行“化整为零”的游击战，与敌人纠缠了月余。
5月18日黄昏，李宗仁与长官部官兵一应人员700余人，乘夜色经宿县、蒙城，越过敌之包围圈移驻潢川。
留守徐州城的刘汝明部在萧县一带伏击日军第9师团，对日军造成重大伤亡。日军见中国军队大部已走，企图于徐州城围歼刘汝明部。刘汝明部佯作死守状，及见各路大军撤尽，便弃城撤退，于19日离开徐州。敌军不但没有击溃刘汝明部，甚至连一个上尉也没有捉到。
5月下旬，各路大军按命令的路线，全部安全撤抵皖西、豫南地区。
日军的华中派遣军的13师团一路杀来，于５月底扑到徐州城下，发现李宗仁唱了一出空城计，又令一心想争功的华北方面军大感挫折，日军伤亡了万余人的代价，得到了一座空城。
会战结束后，桥本群少将带着大本营派遣班的高参们，垂头丧气地回到东京，向天皇和杉山元陆相报告：
“我军虽以主力自徐州以西切断了中国军队的退路，将徐州地区铁桶般地包围起来。但总计约50个师的中国军队，于5月中旬突然从西南方向跳出我军重围。战果之微出乎意料！”
郭汝瑰将军在回忆录中对徐州会战有如下评论：
我五六十万大军，离心退却，竟没一个师遭敌人歼灭，且向敌后退却的部队，都如入无人之境，事后安全而归。足见敌人虽构成战略包围态势，然而地广兵稀，到处都是空隙。我在国内作战，有人民协助，化整为零，随时可以安全脱险。
徐州大突围是抗战史上光辉的一笔。它使敌人的战略企图彻底破灭，为后来长江一带的抗战保存了精锐力量，对后来持久战和最后胜利的取得，都具有不可估量的重大意义。