大势所趋，桂军无法抵御粤军，黄业兴领部开始向横县退却，李宗仁率部殿后，保护大军。在撤退中，李宗仁得知黄业兴要把部队开往广东钦州、廉州、防城一带，受粤军收编。李宗仁考虑，黄本人系钦县人，所部官兵亦多为钦、廉州人，他投靠粤军不失为一条出路，而自己所领均是广西兵，与其受粤军收编，还不如留在广西。他与手下官兵商量，大家主张把部队拉到粤挂交界处的六万大山之中，暂作躲避，待机再说。李宗仁觉得这是个好主意，于是悄悄脱离黄业兴，独自领着广西兵匿入六万大山中。后来有几支小部队也陆续上山躲避，均被李宗仁收容。李宗仁就是靠了这些部队作为基础，不断扩大，在广西立住了脚。
上山不久，陈炯明的弟弟陈炯光和钟景棠先后上山与李宗仁接洽收编本事。自于李深知他们的收编用意在于扩充自己的实力，所以都被李一一拒绝。可是，李却向粤军当局提出了以下收编条件：1、部队直属粤军总部领导，2．本人要一职兼两省，不直属于任何一省。李宗仁的这些条件，明确地要对方让自己保持独立性。李处境落魄，提这些条件显然是苛刻的，很难想象收编的人会接受。但出人意外的是，陈炯明爽快地答应了。收编后、李宗仁带领的那部分躲在山中的大兵成了“粤桂边防军第三路”，李宗仁本人成了司令。陈之所以这样爽快答应李的条件，那是因为，陈虽是胜利者，但也有自己的困境：桂军败北，除少数接受粤军收编外，大多潜匿各县农村，开展游击战，对抗粤军：而李宗仁向以能战著称，陈恐其将散布的桂军集合起来，对他不利，与其逼他反抗，还不如暂时恩施于他，然后设法消灭他。
陈炯明的假意很快暴露。李宗仁被收编后，陈炯明不发粮饷，仅命李带部往横县，听候点名。陈的命令，苦了李的部队，许多士兵衣履不遮，光脚行军更不足为奇。好生不易到了横县，此时陈在武鸣一役中惨遭失败，陈深恐李与武鸣桂军联合，里外夹击，于是又令李领部开往北流镇驻扎。到了北流，陈仍不解决李宗仁部的军费，只是敷衍地发放些微伙食钱。此时，李宗仁醒悟，强烈地意识到，这是陈炯明耍计谋，企图拖垮这支部队，于是决定自己设法解决，用枪换取军费。他命令在司令部内所存伤病员交回的枪中，拨出100枝，每枝配以200发子弹，折价以每枝150元卖给当地防匪的团队，获洋1.5万元，终于度过了难关。
陈炯明看此计不成，又生一计。他令李宗仁将部队中4门山炮交出。这分明是要削弱李宗仁的实力，因此被李顶了回去。陈见李态度坚决，未持己见。但他又召李宗仁去南宁报告部队情况，李的部下为李担心，恐其遭不测，劝他取消此行；但李宗仁考虑，如若不去，反授柄于陈，被其指责·不听命令”，显得理亏，决定铤而走险。临行前，他告诉手下军官：“我去南宁若有不测，那时诸君可自作决策”，“见机行事”，千万不要“为我投鼠局器”。李宗仁话中有话，交待完毕，便自北流到贵县，乘船溯江而上赴南宁。
其实，陈炯明此时还不敢加害于李宗仁，他让李赴南宁，一是要显示一下自己的威风，二是试探李宗仁的动静。因此李宗仁到南宁后，仅三言两语，遂无下文，连缴炮的事也未提及。李宗仁在南宁，除拜访时任广西省长的马君武外，无所事事，住了10多天，便折回北流。
陈炯明如此对待李宗仁，不但李不满，李的部下也怀恨在心，伺机报复。1921年12月10日，驻防玉林的胡汉卿撤至高州，李奉命率部接防玉林。翌年4月，粤军自广西仓促撤退，而玉林地处粤、桂交通中枢，陈炯明恐有事端，电令李宗仁驻防贵县，将玉林移交陈炯光接防。为表示欢迎陈炯光的接防，李宗仁率部赴郊外迎接。陈炯光对他只是应酬了三两语，说罗统领即将到玉林驻扎，嘱他稍候，以便接洽，而自己则随大队人马自北流而去。陈炯光的举动引起了李宗仁的怀疑，恐粤军设圈套，围缴所部枪械，故特令部队避开大道，从小路先行开拔。他自己则带了特务营一连，等候罗统领的到来。然而，李宗仁又想，命令中是陈炯光接防，而既已和陈见了面，何必再等候罗统领呢？想到这里，他决定立即上道。不料走了10余里路，忽有粤军军官两人率士兵10余人气喘吁吁地奔跑而来，说罗统领有事要和他商量，请他返回玉林。李宗仁有些为难，感到既已开拔这些路程，就算了，但也有些犹豫，何事急急匆匆，若有要事，陈炯光早就会说了，于是对那两位军官说：“我已和陈司令接头过了，现须赶路，无暇与罗统领见面了。”谁知那两名军官苦苦哀求，李宗仁看到他们这般情状，越发怀疑，更加坚定地表示不回玉林。那两位军官无奈，只得转身口去了。途中，李宗仁对刚才发生的事百思不得其解：如若要加害于他，用刚才那样的办法不是太简单了吗？如真有要事，那又会有什么事情呢？正在思疑中，忽得当地百姓报告，才真相大白：原来是他的部下为报复粤军而惹出的是非。这次换防，大部队先行，一营长俞作柏估计李宗仁不会在玉林逗留长久，便在离兴业县城30余里某隘口两侧设伏，袭击粤军。时罗统领亲率官佐数人殿后，坐了轿子，杂于队伍行列中，缓缓向东行进，毫无防备，骤遭袭击，心慌意乱，手足无情，遗弃轿子，落荒而逃，粤军后尾乱作一团。俞营长不但出了气，还缴获许多械弹辎重。罗统领初被袭击时，以为是土匪或民团企图劫取财物，但很快从枪声中辨出，这是一支受过严格训练的部队，于是怀疑是李宗仁一次有计划的行动，所以派人让他回玉林说个明白。俞营长忽出此举，使李宗仁被动异常，也几乎险遭不测，幸好没有回玉林，否则后果不堪设想。