经过年余经营，晋阳城“流人稍复，鸡犬之音复相接矣”。在虎狼争斗之地，附近的汉族人民终于找到了一块相当安全的飞地，生活、生产、战斗三不误，初具立城规模。刘琨的父母此时也从洛阳赶来与儿子相聚，远近士子流民也争相奔赴，依附刘琨。但是，“（刘）琨善于怀抚，而短于控御。一日之中，虽归者数千，去者亦相继”。公子哥性情，终归不能全然改戒。“（刘琨）素豪奢，嗜声色。虽暂自矫励，而辄复纵逸”。美女伎乐，挥金如土，此种性格，估计刘琨承袭自那好色、好财、好挥霍的远祖中山靖王刘胜。
如在歌舞升平之日，刘琨这种豪奢也没什么太可指摘。但是，当时晋阳三面受敌，北有鲜卑，南有匈奴，东有王浚，皆虎视眈眈，视刘琨为眼中钉、肉中刺，皆欲拔之而后快。
公元308年10月，刘渊在蒲子称帝。其间，汉将石勒连陷巨鹿（河北宁晋）、常山（河北正定）、冀州（河北冀县），一百多当地坞堡武装向石勒投降。不久，刘渊的儿子刘聪、汉将王弥与石勒又合军进攻壶关，刘琨遣去的晋将接连被杀，西晋上党太守投降。
屋漏偏遭连夜雨。不仅处处战败消息传来，原先附晋的匈奴右贤王刘虎和白部鲜卑也墙头草顺风倒，纷纷向刘渊称臣，对刘琨的晋阳根据地形成了严重的威胁。审时度势后，刘琨只能遣派使人，带大份厚礼恳请鲜卑拓跋部酋长猗庐出兵，与自己一道，与刘渊争衡。
拓跋猗庐倒是很讲义气，派其侄拓跋郁律率领两万鲜卑骑兵助战。刘渊匈奴兵很能战，但心理上一直害怕鲜卑人的勇猛和亡命。不仅匈奴刘虎的军队大败，白部鲜卑也损失了不少人马，皆败于刘琨、鲜卑联军手下。
得胜之后，刘琨与拓跋猗庐置酒高会，两人结拜为兄弟。由于患难相助，感激之余，刘琨上表朝廷，奏请拓跋猗庐为大单于，以代郡封之为代公。当时代郡属于割据一方、怀有不臣之心的晋朝宁朔将军王浚所统的幽州属内。王浚当然不答应，并派兵偷袭拓跋猗庐，反被猗庐军队击败。由此，刘琨与王浚的矛盾也开始表面化。
正在崛起中的拓跋猗庐很想趁机进入汉地发展势力，便率部落万余家从云中入雁山，向刘琨索求陉北之地。“（刘）琨不能制，且欲倚之为援，乃徙楼烦、马邑、阴馆、繁畤、崞五县（现山西代县以北的地区）民于陉南，以其地与猗庐”。
公元311年年底，刘琨与王浚又因州民问题发生了直接冲突。
王浚，字彭祖，是西晋博陵郡公王沈的儿子。这王沈本来也不是什么好货色，当初曹魏少帝曹髦带兵攻打司马昭，临行前召王沈、王业两人，以实情相告。这两个不忠小人扭头就跑，驰告司马昭，使这位曹魏权臣争得了宝贵的时间，最终导致了少帝曹髦的被弑。
王浚袭其父爵，在晋惠帝时出镇许昌。愍怀太子司马遹被贾南风幽禁，王浚承旨，与太监孙虑谋杀了这位太子爷，并获迁为宁北将军，不久又徙封宁朔将军、都督幽州诸军事。
眼见当时朝廷昏乱，盗贼蜂起，王浚知天下大乱，深为自安之计，结好周边的少数民族首领。他把一个女儿嫁给鲜卑酋长务勿尘，另一女嫁与胡人酋长苏怒延。赵王伦篡位，司马三王起兵，王浚首鼠两端，持兵观望。成都王司马颖当时就想讨平他，但内战繁急，无暇他顾。气愤之余，司马颖以右司马和演为幽州刺史，暗中嘱咐他去杀掉王浚并统领其兵马。
和演手持成都王司马颖密诏，先秘见乌丸单于审登，得到对方口头支持，一同谋执王浚。新官上任，和演和王浚约定在蓟城（今北京）城南清泉水上共聚宴饮。当时，蓟城内有两条驰道，和演和王浚各走一道。和演想趁两人宾随仪仗交合、马上作揖行礼时，趁机杀掉王浚。不巧，天降暴雨，兵器皆湿，不便弓刀，谋杀王浚未果。
乌丸族的审登单于很迷信，他和族人嘀咕：“和演想杀王浚，几乎要得手的时候忽然天下暴雨，定是上天佑助王浚。违天不祥，我们还是别站在和演一边。”于是，审登单于向王浚告密，告之和演要杀掉他。王浚惊恐之下，忙召集兵士，与审登一起攻杀了和演。
控制了当地局势后，王浚召来鲜卑女婿务勿尘，率鲜卑联军两万人，大举进攻司马颖，攻击邺城，杀死汉族士庶数万。鲜卑骑士在城里抢掠了不少汉族美女。回军途中，王浚怕有误战事，下命“有挟藏者处斩”。当时，鲜卑骑兵还很怕晋朝将军的将命，纷纷把抢来的美女推入易水，淹死八千多人。“黔庶荼毒，自此始也”。
晋怀帝继位后，封王浚为骠骑大将军、司空，领乌丸校尉，并封他女婿务勿尘为大单于、辽西郡公。王浚在河北挟势自重，带着一大帮鲜卑雇佣军，与刘曜大将石勒持战，互有胜负。
刘琨派族人刘希到中山各地活动，“代郡、上谷、广宁三郡人皆归于（刘）琨”。王浚见刘琨和自己争地盘，也顾不得去打石勒，挥转马头，率大军与刘琨属军交战。王浚的鲜卑联军战斗力很强，攻杀刘希，“驱略三郡士女出塞，（刘）琨不复能争”。
由于晋将刘琨、王浚两人窝里斗，匈奴刘氏屡屡得手。怀帝永嘉五年，继石勒全歼司马越十余万众之后，汉帝刘聪的军队攻陷洛阳，生俘晋怀帝，杀伤数万汉族兵民，满载而归。
窘迫之余，又是鲜卑老哥们儿拓跋猗庐派儿子拓跋六修来助刘琨，并为晋朝守卫新兴（山西忻县）。
与拓跋六修一起守新兴的刘琨守将邢延找到数块上好玉石，进献给刘琨。为感激拓跋鲜卑人来投附帮忙，刘琨就把这些玉石转送给拓跋六修。这位鲜卑王子贪财，得了好处不说，又向新兴城内的晋将邢延索要更多的玉石。邢延表示所得玉石均已上献刘琨。拓跋六修不信，把邢延的妻儿抓起来囚禁，逼索玉石，邢延大怒，率所部兵攻袭六修，打跑了鲜卑兵，并以新兴城向匈奴刘氏投降，“请兵攻并州”。
局势如此危急、复杂，自以为有大将气度的刘琨仍安然自若。晋怀帝永嘉六年（312），他一面移檄所辖州郡，表示十一月会军平阳（山西临汾）进攻汉国，一面在治所内大张乐宴，声色是娱。
河南人徐润是个音乐家，刘琨引以为同行、知音，非常宠幸他，竟提拔这个填词作曲的哥们儿任晋阳令。
徐润骄恣，贪财爱货，干预政事。刘琨的护军将军令狐盛是个正直的军人，多次劝刘琨杀掉徐润，刘琨不听。
徐润知道此事，暗恨令狐盛。一次，趁刘琨饮酒赏乐兴致正浓之际，忽然“告发”说令狐盛要率众拥刘琨称帝。一向以精忠晋室为己任的刘琨大怒，不细审情由，立刻派人斩杀令狐盛。其实，仔细推究，刘琨很有可能一直有忌恨、提防令狐盛的心理，借此机会正好发泄。
刘琨的母亲是个贤明知理的老太太，知晓此事后，严责刘琨：“你不能弘图远略，驾御豪杰，只想除掉比自己强的人，以此自安，又怎能完成大业呢？如此下去，祸必及我！”知子莫若其母，刘琨的祸事，的确已经不远。
闻知父亲被枉杀，令狐盛的儿子令狐泥忙逃至匈奴汉国刘聪处，具言刘琨虚实。汉国大将刘粲、刘曜以令狐泥为向导，率精骑进攻并州。刘琨闻讯东出，四处收兵，以图抵战汉兵。刘粲与令狐泥乘虚突袭晋阳得手，杀死刘琨的父母及留于晋阳的家人。晋朝各路军大败。
听闻晋阳失陷，父母被杀，血泣之余，刘琨只得率十余骑人马奔逃至常山。
败亡危急关头，又是鲜卑拓跋猗庐出手相助。
公元313年11月，拓跋猗庐以儿子拓跋六修等为将领率众数万进攻晋阳，他本人率二十万大军殿后。反观刘琨，此时只有近日招集的汉族散卒数千，夹在鲜卑军中以充向导。
匈奴刘氏的中山王刘矅连忙把军队调出，在汾水东岸与拓跋六修军对阵，双方开打。匈奴遇鲜卑，如狼对虎，始终心怀畏惧，交战不久，汉军大败，刘曜本人身中七创，差点死于阵中。他逃入晋阳城后，连夜与刘粲等人“掠晋阳之民，逾蒙山而归”。
拓跋猗庐率大军追击，在蓝谷（蒙山西南）又大败汉军，“伏尸数百里”。其实，这横倒百里的人尸，估计大半是被汉军裹挟的晋阳百姓，真正的匈奴兵将有马有武器，逃跑途中估计也不忘刀砍斧剁，大肆杀戮平民。最可怜的是这些无辜晋民，即使侥幸在匈奴刀口下生存，马上就被追上来的鲜卑人砍掉脑袋。
刘琨自营门步入拜谢，固请进军。拓跋猗庐婉言回绝，说：“吾不早来，致卿父母见害，诚以相愧。今卿已复州境，吾远来，士马疲弊，待后举。”他馈送刘琨兵车百乘，马、牛、羊各千余以为军资，并留下两个本来就是晋人的将军协助刘琨守卫晋阳。
现在，刘琨经营了几年的晋阳又变成废墟，再也无法重建。无奈，刘琨移军至阳曲（今太原以北），虽然仍兢兢业业，招集亡散，但世易时移，形势对他越来越不利。
晋愍帝建兴二年（314），石勒忽然来书要与刘琨请和，并表示愿意率兵征讨王浚以效力晋廷。刘琨大喜，认为石勒可以为自己除掉身边一个劲敌。其实，石勒真正的目的是想集中力量干掉王浚，先卑辞下礼稳住刘琨，以免腹背受敌。
倒霉蛋王浚正值自我膨胀高峰期。其父王沈字处道，他就牵强地认为他们王家应“当涂高”之谶，有称王为帝之命（简直和三国时期的袁术一个德行）。其属下官员谏劝，不是被外放，就是被杀掉。王浚又宠信苛刻小人，矝豪日甚，不理政务，辖境人民饱受压榨，纷纷逃亡到邻近的慕容鲜卑部落。
王浚在“八王之乱”中凸显实力，全靠他手下的鲜卑、乌桓雇佣兵，此时，这些人纷纷离他而去，使他失掉手中最大的王牌。加之天灾人祸，王浚的实力大不如前，日益虚弱。
石勒想除掉王浚，但又不知对方虚实，便先遣使向王浚问候，主要目的是觇察其军事、政治实力。石勒的手下参谋多建议石勒以当年羊祜、陆抗那种敌国将领相抗相敬之礼去见王浚。石勒的幕僚长张宾表达了他自己的不同意见：“王浚名为晋臣，其实是想废晋自立，只怕四海英雄不会追随他，因此，他太渴望得到您的拥持。以您威振天下之大名，卑辞厚礼，折节事之，才有可能使王浚信赖您。”
石勒称善，派人带了数车珍宝奇货，奉表于王浚，说：“（石）勒本小胡，遭世饥乱，流离屯厄，窜邻冀州，窃相保聚以救性命。今晋祚沦夷，四海无主，为帝王者，非公而谁！伏愿陛下应天顺人，早登皇祚。勒奉戴殿下如天地父母，殿下察勒微心，亦当视之如子也。”
王浚得到石勒书信，差点乐昏过去。本来自己架子大正在强撑，昔日的强敌石勒竟然摆出一副儿子样，一会儿陛下，一会儿殿下地称呼自己，要拥戴自己为皇上，能不高兴得冒油吗？
当然，王浚也不是傻帽儿，他高兴之余，探问石勒使臣：“石公一时豪杰，跨据赵魏之地，为什么要向我称藩呢？”石勒使臣早有心理准备，趁机又给王浚戴上一顶大高帽：“殿下您中州贵望，威行夷夏。自古胡人未有能为帝王者，石将军深信帝王自有历数，非智力能取。项羽虽强，终归汉有。石将军前鉴于史，所以应天顺命，欲归身殿下，攀龙附凤，以为辅佐名臣。”
一席话，王浚不得不信。大喜之余，他连石勒派来的两个使臣都“加封”为列侯，又回馈石勒更厚的一份大礼。为获取王浚的进一步信任，石勒还斩杀王浚手下叛逃到自己营中的人。王浚深信这位羯胡头子对自己忠诚无比，再也不怀疑石勒的动机。
王浚使者来到石勒的根据地襄国，“石勒匿其劲卒、精甲，羸师虚府以示之，北面拜使者而受书”。王浚赠送石勒一柄麈尾，石勒悬之于壁，朝夕跪拜，并对王浚使者说：“我不见王公，见其所赐，如见公也。”同时，石勒不停地向王浚进献珍宝，连绵不绝，并提出四月中旬要亲自去幽州面见王浚，奉戴王浚称帝。
王浚骄傲至极，对石勒不复加防备。
石勒送走王浚使臣，便向自己的使臣问王浚的虚实。使臣汇报说：“幽州去年发大水，人民无粮食可吃。王浚积粟百万，不能赈济。刑政苛酷，赋役繁重，忠贤内离，夷狄外叛。人人都知道他灭亡不远，而他自己意气自若，没有丝毫戒惧之心，还布列百官，大修台阁，自谓才过汉高祖、魏武帝。”
石勒大笑，知道王浚已是囊中之物。
公元314年4月，石勒率大军抵达易水。王浚手下将军孙纬派人驰告，准备出兵抵拒。王浚将佐纷纷进言，认为胡人“贪而无信，必有诡计”，希望王浚下命迎击石勒。
天作孽，犹可违；人作孽，不可活。王浚大怒，大声申斥诸将：“石公来此正是要奉戴我称尊，再有敢讲迎击石将军的，必斩不饶！”
众将不敢再进言。
石勒大军逼近蓟城，吆喝守门军士开门。由于王浚有命，门军忙大开城门。王浚毫无戒心，石勒却多留一个心眼。他害怕进城后会遇到埋伏，就先派兵赶进数千头牛羊，声言献礼，以堵塞城内通道。即使王浚有伏兵，这么多牛羊塞路，也兵不得发。
“（王）浚始惧，或坐或起”。石勒入城后，纵兵大掠。
王浚手下恳请出兵抵御，王浚仍不答应。如果此时出兵，即使不能击败石勒，最起码王浚及手下诸将还有逃跑的机会。见主帅在危急关头仍不下令，诸将一时离散。
王浚等了半天，也没见石勒来拜见自己，倒听见兵士气喘吁吁地跑来禀告，石勒在衙署中庭已经高高上坐，正发布命令。终于知道自己上了大当，王浚撒丫子就跑。
无人护卫，王浚没跑多远就被石勒兵士抓住，送至府堂。
终于见到石勒。王浚双臂被绑，见这位一直向自己称臣装孙子的大胡酋高坐堂首，把自己的老婆搂在怀中，一面手中乱动，一面笑望自己。
王浚大骂：“胡奴，竟然哄骗大爷我（调乃公），太凶逆无道了！”
石勒回话：“王公您位冠元台，手握强兵，坐观本朝倾覆，欲自为天子，您才是凶逆之人呵……您又残害百姓，委任奸贪小人，毒遍燕士，罪过真是不小！”言毕，石勒变脸，遣精骑五百押送王浚至襄国，并收杀王浚手下精兵猛将一万多人。
王浚最后关头倒像条汉子，在襄国闹市被斩时，“竟不为之屈，大骂而死”。即使如此，又有何益！
刘琨坐待王浚被石勒击灭。如今，石勒不仅没有归身晋朝，反而调集大兵，在没有后顾之忧的情况下，准备向刘琨发动攻击。
晋愍帝建兴三年，刘琨获拜为司空，都督并、冀、幽州诸军事，官衔虽堂皇，周遭的形势却十分令人担忧，根本没有什么他可以真正长久立足的地方。
屋漏偏遭连夜雨。晋愍帝建兴四年（316），一直为刘琨倚为根本后援的鲜卑酋长拓跋猗庐被杀。
拓跋猗庐于愍帝建安三年已被晋朝封为代王。鲜卑人有爱宠幼子的习惯。代王拓跋猗庐想立小儿子比延为嗣，就把长子拓跋六修派去新平城，还黜废了他的母亲，打入冷宫。六修有日行五百里的骏马，代王猗庐也强夺过来送给小儿子。拓跋六修惭怒之下，不告而去。猗庐大怒，率军讨伐六修，结果反被儿子打败。这位鲜卑老英雄换件破衣服逃离战场，半路被一乡下妇人认出，报告给拓跋六修。
逆子驰马而至，当胸给了老爸一刀，老英雄含恨而死。
六修自立为代王，不久就被堂兄普根攻杀。“普根代立，国中大乱，新旧猜嫌，迭相诛灭”。混乱之中，依附鲜卑多年的晋人将领卫雄、箕澹两人，率所统晋兵以及乌桓兵士，共三万余家、马牛羊十万头，拥戴刘琨在鲜卑的质子刘遵，一起归复刘琨。
由此，刘琨之势得以复振。虽如此，拓跋鲜卑之精兵猛将，再也不会成为他危难时刻的后援友军了。
此年年底，晋愍帝于长安被匈奴刘氏的汉军生俘。
石勒方面，忽发大兵进攻晋臣韩据的乐平（山西昔阳），刘琨刚得新锐之兵，便要率手下军队去前往救援。愍帝被俘、江河日下之时，刘琨也确实出于一腔忠勇，其志可嘉。
刚刚从鲜卑来归的晋人将领箕澹、卫雄谏劝，说：“我们从鲜卑部落带来的这帮兵士，虽属晋民，久沦异域，一直不晓明公您的恩信，难以控御。当今之计，最好是内收鲜卑的余粮，外抄残胡的牛羊，闭关守险，修养生息，使来归兵士服化感义，有一段修整和熟悉晋朝制度、感受德化的时间，然后再派他们征战，可以立功。”
刘琨征战得胜心切，不从二将之议，倾兵而出。他命二将为先锋，将兵二万先行，自己率军继之。
石勒闻讯，于山地设伏击圈，先佯装小败，而后四面合围，大败晋军。箕澹和卫雄二将只剩一千余残兵，突围逃走。晋将韩据闻败，也慌忙弃城逃跑。