仁宗始终不能忘记范仲淹。景祐二年（1035）十月，范仲淹奉召还京，判国子监，这离范仲淹被贬出京不到两年时间。
判国子监是国家最高学府的长官，培养教育人才是其职责所在。范仲淹一生有志于教育事业，这次任命符合范仲淹的志向。不过，范仲淹此时在政坛已经有了相当的位置，政治视野已经拓宽。他的志向不限于教育，而是将朝廷的大小事务都纳入自己的思考范围。有关朝廷政事，范仲淹频频发表意见，提供自己的见解。不久，被废郭皇后再次成为朝廷议论的中心。景祐二年（1035）十二月，郭皇后突然病逝，外界传言是宦官首领阎文应下的毒。此前，仁宗已经对被废的郭皇后表现出某种程度的眷恋，时常派人看望郭皇后，且写了几首乐府诗送给郭皇后。郭皇后有和仁宗的乐府诗，语意凄楚。阎文应知道这些事情后非常恐慌，他是力推郭皇后被废的罪魁祸首。凡此种种，导致外界传言越来越多。范仲淹听到了这些传言，又目睹阎文应的跋扈，非常愤怒，决定冒死进谏。阎文应深得仁宗信赖，气焰嚣张，时而假传圣旨，交代宰辅办事，执政通常不敢违背。范仲淹对这样的情形很清楚，进谏前，将家事全部托付交代给长子，说：“我要是赶不走阎文应，一定会死的。”幸好，宋代帝王最依赖的政治集团是文人士大夫群体，宦官势力还不足以与文官集团抗衡。仁宗最终听取范仲淹意见，将阎文应贬谪出京城。富弼为范仲淹作墓志铭时记载这件事说：阎文应死于贬谪途中。《长编》根据《百官志》辨明：阎文应以后辗转数地，宝元二年（1039）才去世，仁宗对阎文应依然有相当的眷顾。无论如何，阎文应是被驱赶出朝廷，范仲淹这次冒死进谏，对肃清朝政发挥了相当好的作用。
此时宰相依然是吕夷简。吕夷简擅长奉迎帝意，终其一生，深得仁宗信任。吕夷简又擅长官场权谋，打击政敌，排斥异己，稳固权势。作为政坛多年的不倒翁，吕夷简并非庸人。他有心计，有眼光，有能力，有魄力，也有一定的胸襟气度。面对范仲淹的才华和正直，吕夷简免不了有一份欣赏。这不仅仅表现在吕夷简晚年退休后对范仲淹的支持上，也表现在他当政时对范仲淹的使用上。范仲淹屡屡被朝廷委以重任，频繁获得朝廷恩顾，不能简单解释为仁宗的个人意志，其中应该贯彻了主持朝廷政局者吕夷简的意愿。同时，吕夷简又对范仲淹直言敢谏的作风头疼不已。于是，托人劝告范仲淹说：“待制是侍从官，不是负责言论的谏官。”范仲淹回答说：“讨论朝廷事务，正是侍从官的职责，我怎么敢不努力呢？”吕夷简知道无法改变范仲淹的行为作风，便调任范仲淹知开封府。开封府作为北宋的京都，事务繁杂，责任重大。吕夷简希望本职工作完全消耗掉范仲淹的日常精力，使他无暇旁顾。从另一角度来说，知开封府是非常重要的差遣，京城长官政治地位非同寻常。《容斋续笔》卷三载：“国朝除用执政，多从三司使、翰林学士、知开封府、御史中丞进拜，俗呼为‘四入头’。”也就是说：知开封府经常是副宰相的后备人选。范仲淹此时已经进入上层政治集团。范仲淹的政治才干和做事魄力，足以应付京城繁剧事务，到任数月后，开封府的社会风气和行政管理明显改观。京城于是流传这样的民谣：“朝廷无忧有范君，京城无事有希文。”能这样快改变京都社会风貌，范仲淹行政方式必然有独到之处，循规蹈矩的官员就看不习惯。纠察刑狱胥偃多次指责范仲淹标新立异、不循法规。胥偃特别欣赏欧阳修，曾多次资助、提拔过欧阳修，且将女儿嫁给欧阳修。欧阳修则非常推崇范仲淹，是范仲淹最坚定的政治盟友。因为胥偃这段时间与范仲淹作对，欧阳修因此与胥偃也有了隔阂。
吕夷简任宰相，他的行政作风和政治品格与范仲淹有极大的冲突。北宋的文官可以从一个角度大致划分为两大类群：一类是因为在北宋特殊政治环境作用下而感激奋发、以天下为己任、先忧后乐者，如范仲淹、欧阳修、王安石、苏轼等；另一类则是在独裁政体之下及庞大的官僚牵制体系中明哲保身、平庸居官、贪恋权位、但求无过者，如吕夷简、李昉、晏殊、章得象等。相比较而言，后一类群的人数更加众多。范仲淹和吕夷简分别为两大类群的代表性人物，共为京官，矛盾就不可避免。吕夷简居相位，一方面，结党营私，巩固权势；另一方面，掩饰社会矛盾和社会问题，只求自己在位时相安无事。后来孙沔批评宰相吕夷简“以姑息为安，以避谤为知”，吕夷简知道奏疏内容后，感慨说：“药石之言，但恨闻此迟十年尔。”（《长编》卷一三九）十年前听到这样的批评，吕夷简肯定置之不理。范仲淹回京任职半年多时间，目睹朝廷诸多积弊，认为吕夷简要为之负主要责任。范仲淹从容应对开封府政务之外，上殿奏事，讨论的都是国家大事，批评执政大臣，并不局限于开封府事务。景祐三年（1036）五月，范仲淹就朝廷用人问题进谏，认为：仁宗应该掌握用人之权，现状则是人们奔走吕夷简之门，宰相操纵用人权。范仲淹又向仁宗上《百官图》，形象地标明官员升迁的次序。其中，不按次序升迁的，就是吕夷简从中做了手脚。吕夷简成为范仲淹直接攻击的对象，当然极度恼火。关于用人问题，吕夷简与范仲淹也曾经有过直接对话。吕夷简说：“我见过的人很多了，没有看到有节操的。”吕夷简喜用权谋，以私利用人，奔走门下的当然都是没有操行的无耻之徒。范仲淹回答说：“天下本来就有耿直之士，只是宰相你不了解罢了。如果按照你的观点对待士人，难怪有操行的人都不来了。”物以类聚，范仲淹的观点很有道理。
当时有迁都洛阳的讨论，范仲淹反对迁都。仁宗以迁都事和范仲淹的意见咨询吕夷简，吕夷简趁机回答说：“范仲淹太迂腐，追逐虚名，没有实际内容。”范仲淹听说后，再给仁宗上书，讨论帝王好尚、选贤任能、近名、推委臣下四个方面问题，矛头直指当政的吕夷简。首先，范仲淹告诫仁宗：帝王所好，下必从之。“圣帝明王岂无好？在其正而已。”其次，“王者得贤杰而天下治，失贤杰而天下乱”。“求之之道，不可一端。”要拓宽求才途径，获取各个方面的人才。再次，范仲淹要求培养人们爱护自己的名声和荣誉，否则，“岂复有忠臣烈士为国家之用哉”？复次，范仲淹认为帝王和各个部分、各个级别的官员都有特定的行政职能，帝王不能将自己的权力交到臣下手中。具体而言，“区别邪正，进退左右，操荣辱之柄，制英雄之命，此人主之权也”。皇帝不应该将用人权交给大臣。这一大段讨论，是与前面进《百官图》相呼应的。奏章最后以西汉张禹当政败坏朝廷法规、将汉朝导向败亡为例，提醒仁宗警惕当代的“张禹”，“以小为大，以易为难，以未成为已成，以急务为闲务”（《长编》卷一一八）。所言切中吕夷简当政的要害。吕夷简稳居相位，哄骗仁宗，把小事、容易事吹嘘成大事、困难事，以表明自己的政绩。甚至将没有完成的事也当成自己的政绩上报。而对涉及国计民生的重大社会问题，尽量躲避，以免影响自己的权位。在独裁专制体制中，虚报政绩、哄骗最高统治者，是官场常见的现象。吕夷简如此，其他官员多数如此。范仲淹就是不能容忍这样的现象，趁这次反驳吕夷简的机会，将问题全部揭示出来。吕夷简这时候再也无法容忍，无法回避，无法装聋作哑。他在仁宗前为自己辩护，而且指责范仲淹“越职言事，荐引朋党，离间君臣”。范仲淹继续递交奏章争辩，双方矛盾日益激烈。
仁宗从实质上来说是一位平庸守成、保守居安的帝王，从政治品格上来说更接近吕夷简。所以，仁宗虽然喜欢、信任范仲淹，但是，更加依赖吕夷简。仁宗喜欢看见吕夷简当政下的“太平盛世”，宁愿闭眼无视正在积累中的社会矛盾和弊病。在吕夷简和范仲淹的矛盾冲突中，仁宗因此毫无保留地站在吕夷简这一边。这一次，朝廷对范仲淹的处置十分严厉。免范仲淹天章阁待制之职，贬谪出京，为饶州（今江西鄱阳）知府。
范仲淹在政坛已经有相当的影响力和号召力，许多有政治抱负的正直的官员都以范仲淹为榜样。朝廷严厉处罚范仲淹，激起轩然大波。秘书丞、集贤校理余靖进谏仁宗，指出仁宗亲政后多次驱逐进谏者，不是“太平之政”，要求朝廷收回成命。余靖犯颜直言，似乎证实了范仲淹在朝中确实有“朋党”，因此也被贬谪出朝。几天后，太子中允、馆阁校勘尹洙换一个角度上书朝廷，抗议贬谪范仲淹。尹洙说自己与范仲淹“义兼师友”，关系密切程度超过余靖。如果余靖是范仲淹的“朋党”遭受贬谪，自己也应该被贬谪。尹洙求仁得仁，当然被贬谪离京。馆阁校勘欧阳修，此时人微言轻，也坚决挺身而出。欧阳修获知右司谏高若讷支持贬谪范仲淹，便给其写信，训斥高若讷“不复知人间有羞耻事尔”。高若讷接信以后，气急败坏，将欧阳修的信上缴给朝廷，欧阳修因此被贬为夷陵县令。西京留守推官蔡襄为此写作一首纪实的《四贤一不肖诗》，四贤指范仲淹、余靖、尹洙、欧阳修，一不肖指高若讷。这首诗歌传播甚广，影响很大，甚至契丹使臣也暗中购买这首诗带回本国。泗州通判陈恢以此巴结权贵、阿谀朝廷，上奏章要求追查、处治作诗者的罪行。左司谏韩琦弹劾陈恢越职希恩，应该严加惩处，以杜绝奸邪阿谀之徒。朝廷对两人的奏章都不予理睬，蔡襄也没有受到任何处理。换句话说，仁宗和吕夷简将范仲淹等人贬谪出朝，只求平息事态，却无政治迫害之意。当时殿中侍御史韩渎想阿谀奉承皇帝和宰相，上疏要求将范仲淹等朋党的姓名在朝廷张榜公布，仁宗和吕夷简也不予理会。
不过，范仲淹离开京城的那段时间，政治空气还是有点紧张，人们不知道仁宗和吕夷简对范仲淹还会有什么后续的政治打压手段。多数官员是看风使舵、惟上是从的，他们都不敢来给范仲淹送别，只有李纮和王质前来相送。李纮是范仲淹妻舅，范仲淹丁忧居丧期间两人来往最多。王质是真宗朝明相王旦的侄子，为人耿介刚直。庆历五年范仲淹为王质作祭文，还回忆了这段往事，说：“曩余谪于江南，靡贵贱而见嗤。公慷慨而不顾，日拳拳以追随。何交道之斯笃，曾不易于险易。”（《祭陕府王待制文》）品性相投，以类相聚，这就是欧阳修后来说的“君子党”。