司马光手迹神宗与王安石等人大张旗鼓地改变祖宗以来沿袭已久的各种制度，势必激起朝野内外的强烈反响。朝中以司马光为首的守旧派反对王安石进行的变法，每一项新法颁布之后，朝廷中都会出现近乎白热化的争论。
在现代许多人的心目中，司马光是个因循守旧、顽固不化的守旧分子，其实不然。面对严重的社会问题，司马光也主张改革现状，并提出自己一整套治国主张。司马光不止一次向神宗进言，要从用人、理财等方面缓解已经出现的各种弊端。但随着变法的深入，司马光与主持变法的王安石之间分歧越来越大。就其竭诚为国来说，二人是一致的，但在具体措施上，各有偏向与侧重。
正是因为如此，变法派与守旧派展开了激烈的斗争。不仅朝中的司马光、范镇、赵瞻纷纷上书陈述对新法的不同看法，就连在京外的韩琦、富弼等元老重臣也不断向神宗表达自己对王安石及其新法的不满。司马光与吕惠卿为了青苗法还在神宗面前争辩不已。神宗虽预料到实行变法会遇到阻力，但守旧派反对的声音一浪高过一浪，却是他始料未及的。与此同时，另一股势力也在影响着神宗，那就是来自后宫的巨大压力。
新法的实行，触及到了宗室、外戚的切身利益。例如，神宗和王安石变革宗室子弟的任官制度，使不少远房的金枝玉叶失去了得到官职的机会，因而招致他们的强烈不满。这些宗室子弟不仅向朝廷上书，甚至围攻王安石本人，拦住他的马，对他说：“我们和皇帝都是同一祖先，相公不要为难我们。”王安石严辞拒绝了他们的要求，人群才不得不散去。朝廷没收了向皇后父亲的部分财产，曹太后的弟弟也受到了违犯市易法的指控，他们自然十分仇视王安石。以两宫太后及皇后、亲王为首的宗室外戚抓住一切机会诋毁新法。一次，神宗同弟弟岐王赵颢、嘉王赵頵一起玩击毬的游戏，双方以玉带为赌注，嘉王却说：“我若胜了，不求玉带，只求废除青苗、免役法。”曹太后是个认为“祖宗法度不宜轻改”的守旧派，在变法争论最为紧张激烈之时，两宫皇太后就常常在神宗面前哭泣，曹太后更是对神宗说：“王安石是在变乱天下呀！”神宗与祖母之间感情极好，见到祖母如此伤心难过，心里必是十分内疚，恰恰此时，岐王赵颢也从旁劝说神宗应该遵从太后的懿旨，新法是不会带来什么好处的。神宗心烦意乱，怒斥歧王道：“是我在败坏天下，那你来干好了！”这是将心中的怒气和痛苦发泄在了弟弟身上。岐王诚惶诚恐，失声痛哭。神宗面临朝廷和后宫的双重阻力，内心的烦躁、矛盾可想而知。
巧合的是，自从新法颁行之后，各地就不断有异常的自然现象出现，如京东、河北突然刮起大风，陕西华山崩裂，一时间人心惶惶。那些别有用心之人利用这些抨击变法，说这些是上天对人间的警告。熙宁七年（1074），北方大旱，民不聊生。神宗为此忧心忡忡，他也开始相信这是上天的某种预警，并对自己继位以来所实行的一系列新法进行反思。正在此时，一个叫郑侠的官员向神宗上了一幅流民图，图中所描绘的景象使神宗大受震动，无数的百姓流离失所，卖儿鬻（yù）女，惨不忍睹。神宗本想通过变法，使百姓安居乐业，他万万没想到竟然会是这样的结局。第二天，神宗就下令暂罢青苗、免役、方田、保甲等18项法令。尽管这些法令不久在吕惠卿、邓绾等人的要求下王安石手迹恢复，但是，神宗与王安石之间开始出现裂痕，互相的信任也受到严峻的考验。这对变法派而言，无疑是不祥的讯息。
反对势力当然不会放弃这样的机会，他们继续大肆抨击王安石及其新法。在这种巨大压力下，王安石向神宗提出了辞呈。神宗最初没有同意，但在王安石的坚持下，最终同意并要王安石推荐官员代替自己的职务，这表明神宗并未完全放弃富国强兵的理想，而是要继续推行变法。王安石安排韩绛和吕惠卿主持朝廷事务。熙宁七年四月，王安石第一次罢相，出知江宁府。
王安石离京之后，变法运动由韩绛、吕惠卿等人负责。此时，变法派的中坚力量为了各自的利益走上了不同的道路。吕惠卿是个极有野心的人，王安石离开后，他提拔亲族吕升卿、吕和卿等人，扶植自己的势力。同时打击变法派内部的其他成员，妄图取代王安石的地位。他打着变法的招牌，肆意妄为，引起朝中大臣的不满。韩绛等人强烈请求王安石返京复职。神宗也认为，只有王安石，才能挽回局面。熙宁八年二月，召王安石回京复职。
王安石虽然回京了，但吕惠卿没有放弃自己的野心。他再也不是当年那个积极帮助王安石变法的得力助手。吕惠卿不仅不协助王安石推行新法，反而处处防碍，公然挑拨神宗与王安石的关系。神宗发觉了吕惠卿的阴谋，将他贬出京城，但变法派阵营已经分裂。神宗此时将近而立之年，近10年的经历使得这位少年天子日趋成熟，对于变法有了自己更深的理解和打算，不再事事依靠王安石。君臣之间的分歧越来越大，因而改革之路越走越艰难。
熙宁九年六月，王安石的爱子王雱（pānɡ）病逝，这对王安石的打击极大。王安石坚决求退，神宗于十月第二次罢免了王安石的相位。王安石带着壮志未酬的遗憾和满腹的伤悲离开了京城，结束了自己的政治生涯，退居金陵，潜心学问，不问世事。
王安石离开了，但神宗并未放弃改革的既定路线。王安石第二次罢相后的第二年，神宗改年号为“元丰”，从幕后走到前台，亲自主持变法。然而，变法依旧伴随着反对的声音，神宗亲自主持的新法同样遇到朝中群臣的异议。失去了王安石，神宗本就很伤心，现在又要独自面临巨大的压力，不免有些恼火。他决定实行更为强硬的手段来推行新法，严惩反对变法的官员。苏轼不幸成为这次政治斗争的牺牲品。
苏轼是北宋文坛成就卓越的大家，与父亲苏洵、弟弟苏辙号称“三苏”，其文章为天下所传颂。但这位名满全国的才子在仕途上颇不得志，在他将近40年的官宦生涯中，有三分之一的时间是在贬谪中度过的。元丰二年（1079），也许是苏轼一生中最黑暗的岁月。四月，苏轼调任湖州，他按照惯例向宋神宗上表致谢，谢表中有“知其生不逢时，难以追陪新进；查其老不生事，或可牧养小民”一句，多少带点发牢骚的意味。主张变法的一些人抓住这个机会，指责苏轼以“谢表”为名，行讥讽朝廷之实，妄自尊大，发泄对新法的不满，请求对他加以严办。御史李定、何正臣、舒??等人，更从苏轼的其他诗文中找出个别句子，断章取义，罗织罪名。如“东海若知明主意，应教斥卤变桑田”，说苏轼是指责兴修水利的措施；苏轼歌咏桧树的两句“根到九泉无曲处，世间惟有蜇龙知”，被人指称为影射皇帝：“皇上如飞龙在天，苏轼却要向九泉之下寻蜇龙，不臣之心，莫过于此！”朝廷便将苏轼免职逮捕下狱，押送京城，交御史台审讯。与苏轼关系密切的亲友，如苏辙、司马光、张方平，甚至已经去世的欧阳修、文同等20多人受到牵连，这就是历史上著名的“乌台诗案”。“乌台”是御史台的别称，据《汉书。朱博传》记载，御史府（台）中有许多柏树，常有数千只乌鸦栖息在树上，晨去暮来，号为“朝夕乌”。因此，后人将御史台称为“乌台”。
苏轼下狱后，其长子苏迈一直照顾他。在等待最后判决的时候，苏迈每天去监狱给他送饭。由于父子不能见面，暗中约好，平时只送蔬菜和肉食，如果有死刑判决的坏消息，就改送鱼，以便早做心理准备。有一天苏迈有事，不能去给父亲送饭，就托一个朋友代劳，但苏迈忘记告诉朋友这个约定，偏巧朋友给苏轼送去了一条鱼。苏轼一见大惊，以为自己难逃一死，便写了两首绝命诗给弟弟苏辙：
圣主如天万物春，小臣愚暗自忘身。
百年未满先偿债，十口无归更累人。
是处青山可埋骨，他年夜雨独伤神。
与君世世为兄弟，更结来生未了因。
柏台霜气夜凄凄，风动琅珰月向低。
梦绕云山心似鹿，魂飞汤火命如鸡。
眼中犀角真君子，身后牛衣愧老妻。
百岁神游定何处，桐乡知葬浙江西。
苏辙看到哥哥的两首绝命诗，痛哭流涕，悲伤不已。他立刻上书神宗，希望能以自己的官爵赎去其兄之罪。神宗欣赏苏轼的才华，并没有将其处死的意思，只是想借此警告那些反对变法的官员，颇有杀鸡给猴看的政治意味。神宗读了这两首绝命诗，感动之余，也不禁为苏轼苏轼《赤壁赋》的才华折服。加上朝廷中有多人为苏轼求情，赋闲在家的王安石也劝神宗，圣朝不宜诛杀名士，就连重病在床的太皇太后为此事也责备神宗，神宗遂下令对苏轼从轻发落，贬其为黄州团练副使。经过100多天的牢狱生活，苏轼离开京城，前往黄州。巨大的挫折并没有改变苏轼豪爽的性格，饱经忧患的人生体验反而激发了他创作的热情，在黄州的日子，苏轼写下了“大江东去，浪淘尽，千古风流人物”等脍炙人口的诗词。
乌台诗案发生的前后，神宗没有停止改革的进程，亲自对熙宁年间的变法措施加以调整，继续推行，并着手对官制进行了一次大的改革，使变法运动进入一个新的阶段。变法是一条异常艰辛的道路，其间神宗虽然有过怀疑和动摇，但最终还是坚持下来。忧国忧民的神宗把自己所有的精力和热情都投入到这场大变法之中，为实现富国强兵的目标而努力着。