虽然确定了应天、汴梁的两京制度，但是朱元璋并没有修建汴梁的打算，他还在寻找更加合适的地方。洪武二年（1369）八月，平定陕西。在这种情况下，定都之议再起。九月，朱元璋召集大臣商议国都之地。大臣各抒己见，主要集中在长安、洛阳、应天、汴梁、北平等地，"或言关中险固，金城天府之国；或言洛阳天地之中，四方朝贡，道里适均，汴梁亦宋之旧都；又或言北平元之宫室完备，就之可省民力"。朱元璋在分析各地利弊之后，提出了以临濠为中都的想法，"所言皆善，惟时有不同耳。长安、洛阳、汴京，实周、秦、汉、魏、唐、宋所建国，但平定之初，民力未苏息，朕若建都于彼，供给力役悉资江南，重劳其民。若就北平，要之宫室不能无更，亦未易也。今建业长江天堑，龙蟠虎踞，江南形胜之地，真南京莫愁湖胜棋楼（传说太祖与徐达在此下棋）足以立国。临壕则前江后淮，以险可恃，以水可漕，朕欲以为建中都，何如？"临濠在元朝时称为濠州，洪武七年改称凤阳，是朱元璋的家乡，群臣岂敢有异议？这样，明初就形成了南北两京、中都并存的情况。从九月开始，朱元璋下令仿照南京规制在临濠营建中都。他之所以决定以临濠为中都，甚至一度想迁都临濠，除了这里是他的家乡，还与优待淮西功臣集团有关。众所周知，朱元璋在起兵反元建立明王朝的过程中，淮人多随同他东征西讨，立下功劳，成为开国功臣，包括丞相李善长、徐达和功臣汤和、耿君用、耿炳文、郭兴、郭英、周德兴、常遇春、陆仲亨、曹震、张翼、陈桓、谢成、李新、何福、张龙、张赫、胡泉、陈德、王志、唐胜宗等人，其中汤和与周德兴还是朱元璋同村伙伴。能够光宗耀祖、荣归故里，当然是他们所愿意的。
然而洪武八年（1375）四月，朱元璋在巡视中都修建情况后，突然下令停止修建。此时中都修建达6年之久，已经颇具规模。停建的理由是劳民伤财，其实更深层次的原因是朱元璋与淮西功臣集团矛盾日益加剧。淮西功臣恃功自傲，多有违法乱纪之事，而且在朝廷中结党谋取私利，与朱元璋加强皇权背道而驰。他担心在淮西功臣集团的老家建都，会更加助长他们势力的膨胀。洪武十一年（1378）正月，朱元璋下诏改南京为京师，定都问题才算告一段落。
其实，朱元璋对南京一直不是很满意，迁都的想法从来没有打消过。洪武二十四年（1391），朱元璋派太子朱标巡视关中，颇有迁都关中的打算。当时，明朝的主要威胁是蒙古草原上的北元残余力量。迁都西北，可以加强北方边防，安定边界。朱标考察了西安和洛阳，比较两地地形，回来后向朱元璋献陕西地图。不料世事无常，太子朱标于第二年病逝，使朱元璋受到沉重的打击，再也没有精力和心情考虑迁都的问题了。他在当年年底亲自撰写的一篇祭灶文中，表达了万般无奈的心情："朕经营天下数十年，事事按古就绪。维宫城前昂后洼，形势不称。本欲迁都，今朕年老，精力已倦，又天下初定，不欲劳民。且兴废有数，只得听天。惟愿鉴朕此心，福其子孙。"听起来真是异常的凄凉，也能感觉到国都问题一直令朱元璋不能释怀。
朱元璋这样费尽苦心地更张制度，反复斟酌定都问题，无非是因为天下得之不易，希望能世代固守，传之久远。因此，他不会允许任何人对其统治和权力构成威胁，甚至那些被他认为会对其子孙的统治构成威胁的人，他都会毫不手软，必欲除之而后快。
屡兴大狱：滥杀功臣和刚猛治国
清代史学家赵翼说过这样的话："独至明祖，藉诸功臣以取天下，及天下既定，即尽取天下之人而杀之，其残忍实千古所未有。盖雄猜好杀，本其天性。"赵翼的这种评价虽有过激之处，却指出了朱元璋滥杀的事实。朱元璋做了皇帝后，兴起了几个大案，杀了许多人。
胡蓝案。洪武十三年（1380）正月，御史中丞涂节、商嵩告发胡惟庸南通倭寇北接旧元，意欲谋反。朱元璋命羽林军将胡抓捕，审问得实，磔于市，牵连被杀达3万人。洪武二十三年（1390），有人告发李善长交通胡惟庸情状，朱元璋又将当时已经77岁的李善长赐死，并诛杀其家。吉安侯陆仲亨、延安侯唐胜宗、靖宁侯叶升因牵连于此案亦被杀。
洪武二十六年（1393）正月，又兴蓝玉案。蓝玉以谋逆罪被杀，连坐被诛杀者达15万人。有人认为蓝玉案与燕王朱棣有着关联。蓝玉是太子妃舅父，因极力维护太子朱标的储君地位，与早已觊觎皇位的燕王交恶。燕王为窃取储君之位，伺机在太祖面前挑唆，致使朱元璋在猜疑的心态下制造了蓝玉党案。
胡蓝案使得大明的开国功臣被屠戮殆尽。
朱元璋和功臣的关系有一个逐渐变化的过程。洪武三年（1370），朱元璋封李善长、徐达、常茂、李文忠、冯胜、邓愈等6人为公爵，另外28人为侯爵，并赐给大量土地，同时颁有铁券，如果本人或子孙犯罪，可以免死数次。朱元璋还使皇室与功臣联姻，如郭英之妹为朱元璋宁妃，冯胜、蓝玉、徐达之女皆为王妃。李善长、傅友德、胡海、张龙等勋贵之子皆尚公主，与他结成了儿女亲家。朱元璋是希望通过这些方式确保功臣忠心，巩固自己的皇位，使大明江山传祚无穷。
然而没过几年，这段短暂而甜美的政治婚姻就宣告结束。洪武五年（1372），朱元璋颁布《洪武青花执壶铁榜文》，对文武功臣严加戒饬，严厉指责他们违法乱纪的行径。这可以看作是朱元璋对骄傲放纵的功臣的一种警告，也是他们关系紧张的一个信号。洪武八年（1375），朱元璋制作《资世通训》，洪武十三年（1380）制作《臣戒录》，警告大臣们如果对天子不忠、逾越礼制，将受到严惩。这些功臣们也许没有意识到，朱元璋已经将屠刀举起。