成帝咸和元年（326）年底，北方的后赵军队猛攻坐镇寿春的祖约。祖约多次上表请求救兵，“朝廷不为出兵”，其实是庾亮本人对此无动于衷。
寿春城坚，强攻不下，后赵军队就进犯淮南诸地，杀掠五千多人。这样一来，直接威胁到建康政府的统治，庾亮等人才着慌，忙下诏命王导为大司马，驻军江宁，以抵御后赵兵。
危急时刻，幸亏苏峻派大将韩晃出击，打跑了后赵石聪所率的羯族军队，危机暂时缓解。庾亮为了防止后赵军队再来，又准备在江南防线内开挖大塘充水作沼泽，使敌军骑兵不得驰骋。虽然此举有利于防御，也就把寿春城孤悬于大塘之外。本来祖约就深恨朝廷前番不派救兵驰援，闻知此讯，愈加怨恨。
后赵侵逼之患刚去，庾亮不仅没有厚赏击敌有功的苏峻，反而想先发制人，征召身在历阳的苏峻入朝，削夺他的兵权。
王导老谋深算，劝庾亮说：“苏峻为人猜险，必不奉诏，不如暂先包容他，慢慢相图。”
庾亮不听。众臣朝会之时，他大言道：“苏峻狼子野心，终必为乱。今日征之，纵不顺命，为祸犹浅；若复经年，不可复制！”
王导不再说话。众臣唯唯，只有光禄大夫卞壶表示反对：“苏峻强兵在手，驻镇距京都又近，一天之内就可抵达，一旦有变，易成祸难！”庾亮不听。
在外带兵的大臣——庾亮好友温峤闻讯，也写信多次劝阻庾亮，皆不听。
苏峻，字子高，长广掖县（今山东莱州）人。“（苏）峻少为书生，有才学，仕郡主簿。年十八，举孝廉”。永嘉之乱，各地士民纷纷筑坞自保，苏峻也在家乡结垒，有数千家归投其下，形成一方非常有影响的地方民兵势力。由于书生出身，苏峻才兼文武，又善抚士众，被当时晋朝的青州刺史曹嶷（此人反复，谁势力强就向谁称臣）惦记上，欲率军消灭苏峻。苏峻知道自己远远不是曹嶷的对手，就率部曲泛海南渡，归于广陵。“朝廷嘉其远至，转鹰扬将军”。
王敦第一次起兵时，苏峻因卜卦不吉，带军一直迟回不进，退保盱眙。王敦二次起兵，苏峻因自己军力比以往强盛，毅然受朝命入建康，讨伐沈充、钱凤。南塘一战，苏峻与其将韩晃奋勇冲杀，首战告捷，奠定了最终的胜局。王敦之乱平息后，朝廷因功授苏峻冠军将军、历阳内史，封邵陵公。
有功于国，威望渐著，苏峻也自我膨胀，加之其“有锐卒万人，器械甚精”，是东晋数一数二的“王牌军”，便“颇怀异志，招纳亡命”，朝廷发饷运粮若有迟误，苏峻“辄肆忿言”，口出不逊。即便如此，乱世重军阀，苏峻其实在起初并没有造反的念头。
听说朝廷要征自己入朝，苏峻很心慌，鱼儿离不开水，花儿离不开土，将军离不开大矛枪。真把自己从军队里调回“中央”，威权尽失，说什么也没用。于是，苏峻忙派属下司马入建康拜见庾亮，表示“：讨贼外任，远近惟命。至于内辅，实非所堪。”
庾亮不许。同时，他又派人派军驻于苏峻军队左右，严加防备。
为了诱使苏峻入朝，庾亮以成帝名义下“优诏”，征苏峻为大司农，位特进，命其弟苏逸代领其军。大司农一职，位高职虚，明眼人一看就是个“幌子”。
苏峻上表，恳切地表示：“往昔明皇帝亲执臣手，使臣北拒胡寇。今中原未靖，臣何敢即安！乞补青州界一荒郡，以展鹰犬之用！”话说到这份儿上，近乎哀求了。只要不把自己调离本军，随便让去哪儿都行。
庾亮“复不许”。
“（苏）峻严装将赴召，而犹豫未决”。事关重大，一去京城，深不可测，蛟龙失池，不及鱼虾。
苏峻的谋士任让劝道：“将军您求处荒郡而不见许，事势如此，恐无生路，不如勒兵自守。”苏峻大以为然，便不应朝命。
庾亮更沉不住气，遣使“讽谕之”，其实就是话里带刺软威胁，命苏峻立刻应召进京。
苏峻大怒，愤言道：“庾亮讲我要造反，我入京还能活吗？我宁可山头望廷尉，不能廷尉望山头（反贪局的人要来抓我就自己来，我不会自投罗网）。往者国危如累卵，非我不济！狡兔既死，猎犬理应自烹，但当死报造谋者（指诬害他的庾亮）！”
起事之前，苏峻派人联络祖约。
祖约一直对朝廷愤恨，马上捎信给侄子祖涣、女婿许柳，让他们协助苏峻。祖约其人，是大英雄祖逖同父同母亲弟，但无论人品、才能都与其兄判隔云壤。
当初，祖约在元帝手下做官，就是个超级“妻管严”，怕老婆怕得要死。某晚在家外小妾处过夜，他起床小便，被人乱剁一刀。祖约害怕，知道是老婆派人害自己性命，上奏元帝说要放弃在京城的官职。元帝不许，祖约竟私自跑出京城，躲避老婆的“毒手”，当时被司直刘隗狠狠参了一本。后来，由于祖逖立功江北，祖约也日渐任遇。祖逖死后，朝廷命祖约代其兄职，为平西将军、豫州刺史。当时，祖约的异母兄祖纳就密奏元帝，认为祖约“内怀陵上之心，抑而使之可也，如假其权势，将为乱阶”，元帝不听，以为祖纳妒忌其弟贵宠。祖约到任，无才无德，士卒不附。加之后赵军连连围攻进逼，朝廷不加援手，祖约一直怨恨满腹。接闻苏峻密书，祖约大喜，马上加以迎合。
温峤听闻苏峻拒命，便想立刻率军趋卫建康。庾亮不予批准，回信说：“吾忧西陲（指陶侃），过于历阳（指苏峻）。足下无过雷池一步也（雷池在今安徽望江县，后来的成语“不越雷池一步”即出自庾亮言）。”
陶侃居荆州，坐拥上流之地，庾亮对他的疑惧也并非完全是空穴来风。就东晋（连同以后的南朝）而言，荆、扬二州是其政治、经济和军事中心，“江左大镇，莫过荆、扬”。荆州一直是“甲兵所聚”之地，不仅地理位置特殊，物资供应充足，而且荆楚风俗悍勇，又多当地“蛮僚”入充将士，战斗力十分强悍，种种优势，几乎占全。建康位居下游，虽九重帝居，群臣围拱，但只要荆州兵锋指下，京城马上岌岌可危。
王导的司马（军事参谋）陶回有远见，他劝王导：“苏峻军队未至，我们应切断阜陵，坚守江西诸渡口，彼少我众，一战可以制胜。如不先发制人，苏峻必占据阜陵，到那时人心骇惧，就难与其争锋了！”王导转告庾亮。不从。
果然，苏峻军队先发，其将韩晃、张健一战而陷姑孰，东晋军队的粮米军资、舟船器械，尽落入苏峻之手。
建康大惧，京师戒严。朝廷授庾亮都督征讨军事的大权，派左卫将军赵胤为历阳太守，命宗室左将军司马流带兵屯驻慈湖以抵御。328年正月，温峤也入援建康，屯军于寻阳（治今湖北黄梅西南）。
司马流是软骨头，素无计谋，本性又怯懦，“将战，炙不知口处”（仗还未打，吃东西连自己的嘴都找不到，可见其胆有多小）。苏峻军一攻而捷，杀掉了司马流。
苏峻本人，连同祖约派遣的祖涣、许柳两人，共合军两万多人，渡过横江（今安徽和县），在陵口屯军。其间，晋兵数次来战，皆大败而去。苏峻、祖涣等人的兵士作战经验丰富，与后赵兵相攻都不会吃亏，所以，同台军（政府主力军）相遇，自然占据优势。
成帝咸和三年（328）三月，苏峻军已经打到建康近旁的覆舟山（今南京太平门附近）。陶回再次直接向庾亮献计：“苏峻知道石头城有重兵守卫，不敢直下，一定会取道小丹杨以南步行而来，应该在半路设伏，忽然邀击，可一举成功。”庾亮当然又是不从。
果然，苏峻从小丹杨迂回而进，而且军队半夜迷路，扰乱不堪，假使晋兵在此设伏，可把苏峻等人一网打尽。
“（庾）亮闻，乃悔之。”
眼见节节败退，三军总指挥庾亮自己不上前，又下诏派大臣卞壶任方面军统帅，与侍中钟雅等人率军在西陵与苏峻军队交战。双方一交手，晋军根本不是苏峻之敌，一战溃败，死伤数千。
苏峻军猛攻建康青溪栅，卞壶等人抵御不力，连连后退。苏峻又派人因风纵火，“烧台省及诸营寺署，一时荡尽”。
大忠臣卞壶背创未愈，与左右力战而死，其二子也紧随其后，赴敌而死。卞壶老母抚尸而哭，叹道：“父为忠臣，子为孝子，夫何恨乎！”
云龙门附近，丹阳尹羊曼等人也都相继战死。
庾亮没办法，只得硬着头皮亲自出战，与诸将率兵士在宣阳门列阵。“未及成列，士众皆弃甲而走”。可见，这位天子大舅是何等不得人心。
无奈，庾亮只得带着三个弟弟与赵胤等人乘船逃奔寻阳，依附温峤。
苏峻兵士冲入建康台城。王导与四个大臣急忙奔入内宫，抱着孩皇帝登上太极前殿，共登御床，以身体护卫着龙种小童。
“时百官奔散，殿省萧然”。叛军入宫后，大声喝斥殿上的几个人出殿。
侍中褚翜朗声答道：“苏冠军（苏峻军号是冠威将军）来觐见至尊，军人岂得侵逼！”
叛军没接到命令，不知以何态度和礼节对待殿上君臣。经褚侍中呵斥，真还没人敢上殿。
兵人爱财，便一窝蜂突入后宫，见什么抢什么，连庾太后的左右侍人也遭受劫掠。
苏峻为泄忿，也乐得放纵士兵在京城四处抢夺，“裸剥士女，皆以坏席苫草自障，无草者坐地以土自覆，哀号之声，震动内外”。这帮兵士真是缺德，早春时分，把京城百姓抢得一干二净，连里外衣服也不放过，实属穷凶极恶。不仅如此，他们又驱役百官，光禄勋王彬等人都被强迫当苦工负土至蒋山，沿途被叛兵脚踹鞭打，形同奴隶。
“时官府有布二十万匹，金银五千斤，钱亿万，绢数万匹，他物称是”。苏峻命军士全部搜抢一空。
最可怜的是，“御厨”们连给小皇帝做饭的原料都找不到，只能从仓库地上扫出几石抢劫后散在地面的米粒，煮粥给孩子吃。
苏峻完全控制建康后，“称诏大赦”，唯独庾亮兄弟不在原宥之例。王导德高望厚，苏峻对他连根毫毛都没动，依旧让他原官入朝，位在苏峻本人之上。
苏峻封自己为骠骑将军、录尚书事；封同盟军祖约为侍中、太尉、尚书令，许柳为丹阳尹，祖涣为骁骑将军。
被庾亮降职废居于家的弋阳县王司马羕终于盼来“自己人”，他亲自拜见苏峻，猛拍马屁。苏峻一高兴，恢复他西阳王的位号，进位太宰，录尚书事。
万分焦心的温峤在寻阳苦等消息，迎来的却是丧魂落魄的庾亮兄弟。知道建康不守，皇帝落入苏峻之手，温峤放声大哭。
哭了半日，眼泪救不了国难，温峤只能和惹事佬庾亮商议平定苏峻之策。两个人一直提防陶侃，如今，也只能厚着脸皮，派人哀求陶侃出兵。
驻屯荆州的陶侃本来一肚子鸟气，马上对温峤派来的都护王愆表示：“吾疆场外将，不敢越局。”
温峤哀求多次，就差点亲自去荆州跪求陶侃了，但老陶就是按兵不动。最后，还是王愆一席话，使得陶侃幡然感悟，戎装登船。
“苏峻，豺狼也，如得遂志，四海虽广，安有明公容足之地乎？”
于是，众人四处发檄，陈列苏峻、祖约叛逆之状，移告征镇，共同发兵。