蒋介石东渡日本后，原是准备报考日本陆军军官学校的。不料到了日本本土之后才知道，清政府与日本政府有约在先：凡报考日本军事学校的中国学生，一律要经过清政府陆军部的保荐，否则，一律不准报考。这样，蒋介石报考日本军事院校的计划就完全落空了。但人既然已经来了，他只好先进日本专为旅日学生补习日文的清华学校学习。
这一年的冬天，蒋介石忽然接到了母亲的来信，要他立即返回家乡，而且口气十分坚决：“汝妹瑞莲年下出阁，汝为兄长，当主其事，宜早日抵家，免母悬念，切记，切记！”
蒋介石的妹妹瑞莲，自幼许配给萧王庙后的竺村的竺芝珊。但是，当时蒋瑞莲只有16岁，即使按浙东风俗，女子早婚，16岁的年龄毕竟也还年轻了些。蒋介石不明白，母亲究竟为什么急于让妹妹出阁呢？
其实，最根本的原因是蒋母思儿心切，这才与亲家商议，让女儿提早过门，以此作为催促蒋介石尽早归来的理由。竺芝珊的父亲非常理解蒋母的心情，毫不犹豫便答应了下来。
蒋母盼儿早归，还有其它原因。蒋介石决定赴日，正在筹备启程时，蒋母王采玉的母亲，蒋介石的外祖母因长期患病医治无效，于蒋介石动身赴日之前的一个月濭然长逝了。王采玉一下子面临爱子远游、慈母谢世的双重痛苦，情绪异常低落。蒋介石东渡后，毛福梅虽然也陷入夫妇天各一方，遥相思念的痛苦中，但她看到婆母王采玉经常暗自饮泣，只得忍泪百般劝慰蒋母，还特意陪着蒋母到葛竹村娘家去住过一段时间，一面帮助料理丧后事宜，一面也使蒋母得以同娘家人朝夕相聚，以慰孤寂，聊遣悲怀。在葛竹的日子里，毛福梅恪尽孝道，晨昏侍奉，蒋母对此感激不已，暗自庆幸儿子找到了一个如此贤德孝顺的好媳妇。所以，蒋母急于让儿子回乡，除子思儿心切之外，也想在精神上给毛福梅一些补偿。再有，老太太盼孙子盼得心焦，儿子早一天归来，她就有可能早一天抱上宝贝孙子。
远在日本的蒋介石毫不知情，面对母亲的来信，他陷入了去留两难的境地。经过一番考虑，他还是决定谨遵母命，放弃在日本的学业，返回国内。因为，若无陆军部的保荐，他留在日本也无法报考军事学校，倒不如暂且回国，想办法取得合法身份，然后再赴日本，实现报考军事学校的愿望。
1905年冬，蒋介石结束了短暂的第一次留日生活，回到了溪口。
回国之前，蒋介石即已听说保定军官学校（当时的名称是“通国陆军速成学堂”）将于第二年招生，他决定回国后即着手准备，来年报考这所学堂；以此作为一个跳板，力争尽快取得正式的合法的资格，然后再去报考日本军校。
1906年夏，蒋介石在杭州“通国陆军速成学堂杭州考点”参加了人学考试。通国陆军速成学堂是清政府陆军部直属督办的军事学校，当时名气很大。该年招生时，核准浙江全省只取60名，但事先即已被浙江武备学堂及各校的保送生占去了46个名额，仅余14名额供省内各地上千名考生竞争。这几乎是“百里挑一”的竞争。
不日发榜，蒋介石居然榜上有名！
考取通国陆军速成学堂比考中秀才之类的功名要实惠得多。因为这个学堂是直隶总督袁世凯亲自管辖的一个军官补充基地，只要一毕业，马上就是有品有级的军官了。因此，当报事人吹吹打打把大红喜报贴到溪口街丰镐房蒋家祖堂上时，前来蒋家道贺、看热闹的乡邻充街盈巷，一时成为溪口街上的一大新闻。
蒋母采王闻知喜讯，目睹这一盛况，高兴得老泪涟涟--蒋家门媚终于在儿子手里耀眼生辉了！自从儿子归国后，蒋母在儿媳毛福梅的协助下，嫁女儿、忙过年，喜悦加上忙碌，使她从丧母的悲痛中解脱出来。现在，宝贝儿子又考上了军官学堂，功名在望，孤儿寡母备遭欺凌的日子从此一去不返，蒋氏一门总算扬眉吐气了！蒋母陶醉了，心满意足了--含辛茹苦、忍气吞气的罪到底没白受啊！
蒋介石实现了他计划中的第一步，踌躇满志，启程北上，来到了通国陆军速成学堂。
然而，进军校后，蒋介石的处境并不好。在学生们当中，蒋介石是惟一没有辫子的人，这使他一人校即成为大家瞩目的中心。人们对蒋介石侧目而视，议论纷起，还有人怀疑他是“革命党徒”，不少人甚至明日张胆地当面侮辱他。蒋介石身处如此逆境，不动声色，暗中常以“时加警惕，深自韬晦”自省自励。这种大异于幼时尚勇好斗性格的“韬晦”之术，得益于宁波箭金学堂主讲顾清廉的苦心栽培--曾文公正的那套养性修身之术，看来已深植于蒋介石的心中了。
忍辱负重、韬光养晦的同时，一种越来越强烈的民族感情也渐生渐蓄，充满于蒋介石的胸膛。有一次，一位日本籍军医教官来讲卫生课，他拿出一块事先准备好的泥，对学生们说：“这块泥巴里可以容纳4万万个微生物，就好比你们中国有4万万人寄生在这里面。”座中听讲的蒋介石一听此言，当即离座奔上讲台，把那块泥掰下八分之一来，向日本教官提问：“日本有五千万人口，是否也像你所说的微生物一样寄生在这一小块泥巴里？”那位日本教官被问得张口结舌，好一会儿才指着蒋介石那没有辫子的脑袋大声责问：“你是否革命党？”
蒋介石毫无怯意，立即忿然回答：“我只问你这个比喻对不对，请不要扯到题外去！”
日本教官无言以对，闹到校总办那里，要求严惩蒋介石。
按当时的校规，凡反对教官者，轻则除名回籍，重则监禁治罪。但军校总办赵理泰也是一个深明事理、有民族感情的人，他知道这件事错在教官，不应究办蒋介石。为敷衍日本教官，赵理泰命监督曲同丰对蒋介石进行了一番训斥，未予深究。通过这件事，反而使赵理泰对蒋介石产生了极好的印象。
连蒋介石本人也没有想到，自己与日本教官的这一番争执反而对自己日后的命运产生了积极作用。世事如棋局，难以逆料，实足令人一叹！
这一年的冬天，清政府陆军部从学堂中选拔赴日留学的学生，但规定只以日语班的学生为限。按这个规定，蒋介石根本没有报考的资格。可是他不甘心放弃这一难得的机会，于是大着胆子越级向学堂总办赵理泰呈上赴日留学的申请报告，申明自己曾赴日专门学习过日语，所以入校后没有参加日语班的学习，请求总办特准应考。
呈文递上去以后，蒋介石天天盼着批复。可是直到考试的前一天，仍不见下文。蒋介石彻底绝望了，沮丧地躺在宿舍里睡大觉。昏昏沉沉睡到半夜时分，忽然来了一个提着灯笼的人把他唤醒，说是赵总办派他来通知，已特准蒋介石参加考试。蒋介石一听，大喜过望，恍惚间还以为自己是在做梦呢。直到那个手提灯笼的人告辞离去，他才清醒地意识到，幸运之神正在向他招手呢。事后他才明白，正是因为他在课堂上公然与日本教官争执这件事，使总办赵理泰对蒋介石这个不留辫子、敢与日本人当堂争辩的学生产生了极为深刻的印象。蒋介石刚毅、执拗、敢为别人所不敢为的作风使赵理泰暗中称许不已，“这样的学生，不应让他失去任何发展的机会！”基于这种考虑，赵理泰特准了蒋介石的呈请。
经过严格的考试，发榜时，考前未曾作过半点预习和准备工作的蒋介石又是榜上有名！与蒋介石同时上榜的还有张群、杨杰、王柏龄、马晓军、陈星枢等人。根据陆军部的规定，录取生将于第二年春天启程赴日本军校学习军事。
蒋介石又一次金榜题名，自是得意非凡。他匆匆赶回溪口，向母亲报告这一喜讯。可是蒋介石万万没想到的是，母亲这一次却坚决反对儿子再赴东京去学习什么军事。个中原由，一是因为蒋介石第一次赴日后给她造成的精神苦楚记忆犹新，她不愿再忍受离别之痛的精神折磨；二是因为这几年来，女儿出嫁、儿子求学，本已萧条困窘的家业差不多已被淘干了底，儿子若是再度赴日，她实在是供不起了，第三个原因，蒋母不好明说，但却是最根本的：蒋介石成亲已五六年之久，却很少同妻子毛福梅在一起生活，整日东奔西走求学读书，眼见得媳妇毛氏已是24岁的人了，在乡间，这种岁数的女人有三五个孩子都不是稀奇事，可是蒋介石至今膝下犹虚。媳妇不言不语，当婆婆的还盼着隔辈人呢。所以，这一次蒋母决意阻止儿子东渡。
蒋母的意思，正合毛福梅的心意。于是，她也乍起胆子劝说蒋介石放弃东渡计划。两个女子的阻拦，当然不可能动摇蒋介石东渡求学的决心。这个机会他等待已久，得来不易，又怎能因为母亲和妻子的反对而一朝放弃、功亏一篑呢？
然而，决心固然不可动摇，实际的困难却也不能不切实考虑。蒋介石明知家中经济拈据，东渡川资无着，情不得已，他想了一个变通之法，把妻子毛福梅当年的陪嫁之物--一个首饰箱--托人送到宁婆森顺杂木行孙家舅父孙琴凤处，内附一诗，委曲言明困窘的处境，却没提告贷求助的事。蒋介石生性心高气傲，像这种低眉垂首求助于人的事，他平生也没做过几次，如果不是自幼与孙家舅父的感情较为亲近，他是断断不会这么做的。
孙琴凤经事较多，一见这首饰箱，立即明白了蒋介石的隐衷。他当遣人送还了首饰箱，并附上川资400元，送给蒋介石，作为他赴日留学的费用，并书嘱蒋介石要安心读书，溪口家里的一切有孙家舅父代为照拂，无须挂念云云。蒋介石得孙家舅父赞襄，得以顺利东赴日本求学，对于孙家舅父的大恩大德，蒋介石始终不忘，何况蒋父肃庵公临终前曾再三叮嘱蒋母王采工“把孙家当自己的娘家走动”，因此，蒋介石发迹后，对待孙氏舅父母胜过葛竹亲娘舅。每次回乡，必先到肖王庙镇探望。蒋经国受父亲影响，对孙氏舅婆也很尊敬。蒋经国每一回乡，必到肖王庙探望其孙氏舅婆蒋妙缘，谈笑相聚，十分亲热。蒋氏父子离开大陆时，蒋妙缘已届八旬高龄，由于不愿漂泊异乡，故仍留在老家。
1963年，原蒋介石的侍从秘书江日章从外地回到家乡肖王庙镇扩湾村。江日章的母亲和孙琴凤是堂兄妹，故汪亦呼蒋妙缘为舅母。他回到家乡不久，即登门探望。这时蒋妙缘的丈夫早已故去，女儿出嫁，膝下寂寞，晚景凄凉。1965年，汪日章经过再三考虑，上书周恩来总理，反映蒋妙缘过去与蒋介石的关系和目前的处境，要求给予关心和照顾。时隔不久，有关部门即派人来奉化，把蒋妙缘接到上海。蒋妙缘当时虽已96岁高龄，但身体尚佳，思维清晰，回忆往事，如数家珍，行前清楚地讲述了他的外甥蒋介石和外甥媳妇毛福梅闹家庭纠葛的情景。在做好准备之后，蒋妙缘由她的女婿王仁和陪同，转由香港赴台湾。蒋介石获悉蒋妙缘行踪，特派蒋经国专程到香港来陪，蒋介石自己则在台湾亲自迎接，优礼有加。这件事，在当时两岸隔绝的情况下属于绝对的秘密。蒋介石晚年的反共立场无稍更改，但对大陆将蒋妙缘送来台湾的义举能够欣然接受，足见其对孙家舅父及其亲眷的感情之深。
江日章为什么敢于在60年代中期上书周恩来总理反映蒋介石舅母境况呢？江日章曾解释说：一是第二次国共合作会谈时，我在蒋介石身边工作，与周恩来相识，知其为人大度，不计私人恩怨；二是那时报纸上已偶尔可以看到中共呼吁和平解决台湾问题，并向蒋介石伸出了谈判之手。1956年6月，周恩来总理在全国人大一届三次会议上正式宣告：“我们愿意和台湾当局协商和平解放台湾的具体步骤和条件，并且希望台湾当局在他们认为适当的时机，派遣代表到北京或其他适当的地点，同我们开始这种谈判。”同年7月，周恩来总理又提出了”第三次国共合作”这一具有深远意义的号召。12月，周恩来总理访问印度，在加尔各答举行的记者招待会上就记者提出的问题回答：“中国政府正在尽一切努力争取和平解放台湾，并且努力争取蒋介石。”“我们是否会给蒋介石一个部长的职位？我说，部长的职位太低了。”今天重温礼送蒋介石舅母赴台这个历史事实，可以使我们更深刻地理解中国共产党关于和平统一祖国方针政策的发展过程。
蒋介石川资落实，立即辞别了母亲和妻子，先奔赴天津，与同时被陆军部保送的几位同学汇合一处，乘日本轮船抵达东京，进入日本的士官预备学校--振武学堂。
早在两年前，蒋介石首次留学日本时，即认识了日后被他尊为“义兄”、对蒋介石参加革命有引荐提携之恩的陈英士（其美）。陈英士到日本留学的时间比蒋首次赴日还早一年，当时他在日本警监学校就读。恰好，蒋介石的同乡兼师友周淡游当时也进入警监学校学习，于是，蒋介石在周淡游的介绍引荐下，与陈英士结识。陈英士对蒋介石是“一见如故，即与订交，介绍人同盟会。”陈英士不仅介绍蒋介石参加了当时的革命组织同盟会，而且，蒋介石1910年得以见到革命领袖孙中山先生，也是由陈英士介绍引荐的。这次赴日，蒋与陈重逢，自是十分亲热。也就在这次重逢之后不久，在陈英士的介绍下，蒋介石正式加入了同盟会。
日本振武学校系于1903年由日本原成城学校改办的，据舒新城《近代中国留学史》记载：“当时派遣去的日本学习陆军之学生，曾人振武学校补习，毕业后人士官学校。”蒋介石入校，已算是该校第十一期学生了。
这一时期，蒋介石放弃了他自己改过、用了几年的名字--志清，又一次改名为“中正”，字“介石”。
当时的日本振武学校，校规极严，对学生的饮食起居、作息时间均有严格的限制。但就是在这种情况下，每逢星期日，蒋介石都一定参加江浙籍同盟会会员的秘密聚会活动。大家聚在一起，痛斥清政府的腐败黑暗，畅谈“驱逐鞑虏”的革命理想。在此期间，蒋介石与浙江同盟会会员苏曼殊、张恭、章梓等人结识。
在同盟会员们的影响下，蒋介石的革命思想进一步形成，这一时期他最爱读的书是邹容的《革命军》，并经常带在身边，随时捧阅，从而坚定了民族主义和反清思想。据毛思诚回忆说：蒋介石人振武学校后，有一个时期每天早晚必诵《革命军》，甚至睡觉时还将书抱在怀中，不忍释手，做梦时也似乎在和邹容对话，其痴迷人境之态，一时传为佳话。
在革命志士的熏陶影响下，20岁的蒋介石，思想感情发生了较大的变化，他强烈地想让自己的亲友们知道他现在已经变成了“蒋介石”，而不再是从前那个“蒋志清”了。于是，他穿上军装，以一个标准军人的姿态拍了一张照片，分寄给国内的亲友们。在给表兄单维则的那张照片背面，蒋介石还豪情满怀地题写了一首小诗，借以抒发胸臆：
“光我神州完我责，东来志岂在封侯”固然反映了当时的蒋介石强烈的民族意识，反映了他当时“一心为国，不欲为官”的志向。但从蒋介石日后的情况来分析，这“东来志岂在封侯”却是大有讲究的。事实证明，蒋介石的确是“志不在封侯”，而是成了“王”，成了一个大独裁者，成了中国历史上的一代枭雄！
1909年11月25日，蒋介石从振武学校毕业，旋即到驻扎高田的日本陆军第十三师（师团长为长冈外史）野炮兵第十九联队（联队长飞松宽吾）人伍。人伍时的花名册上这么写的，“学名：蒋志清。籍贯：浙江。身高：169．4公分。体重59．2公斤。
入伍之初，蒋介石当的是二等兵，以后升为“士官候补生”。
高田是个小村镇，隶属新渴县，靠近北海道。入冬以后，这里大雪纷飞，天寒地冻，有时积雪厚达丈余。蒋介石生长在中国的江南地区，很少见到过这样恶劣的天气，为了尽快适应这种高寒多雪的气候环境，蒋介石每天早晨5点以前起床，自己拿着洗脸盆到井边取水洗脸。适应了一个时期之后，他又用雪擦身或洗冷水澡，渐渐地，他的身体强壮起来了。许多年后，他曾深有感触地说：“可以断言，好的身体，天生成的只有三分，其余七分全靠锻炼。”蒋介石后来当政时，也大力提倡用冷水洗脸，认为这是健身之道。
在联队的野炮兵队里，蒋介石每天的任务只是照料军马。为此，他每天早晨洗过脸之后就去擦洗军马，在马厩里把军马的全身擦洗干净之后，再牵到厩外饮水和喂食。每天把马喂好后，蒋介石才能返回营房吃早饭。傍晚，再到马厩里擦一回马，返回营房后先刮靴，然后吃晚饭。这种工作，听起来也算是军事科目，实际上类似苦役，但蒋介石不以为怨，仍能做到“咬定牙根，事事争先，不自感觉其苦。”
做这种工作，每天的体力消耗极大，可是联队里的伙食却并不好。据蒋介石后来回忆，日本军队当时每人每餐只许吃一中碗米饭，每周还必须要吃几次麦饭。佐餐之物经常是三片萝卜，有时是一块咸鱼。只有星期天改善一次伙食，能吃到一点豆腐、青菜和肉片。每人的定量都一样，不分饭量大小。蒋介石刚开始时吃不饱，以后慢慢习惯了，身体也适应了这种饭量，人也不怎么觉得饥饿了。这种定量进餐、菜式单调的军队生活，其实是非常艰苦的，但蒋介石却觉得定量进餐有利于身体健康，并说日军官兵的身体素质很好，因此认为中国人之所以爱生病，是因为每餐吃得过饱的缘故。后来他还经常以此教育中国军队的官兵，告诫他们不要过量进餐，吃得太饱，认为只要吃够就可以了。
在军事方面，蒋介石在东京振武学校学习期间，曾涉猎了不少军事典籍，初步掌握了一些基本的军事常识。在高田的一年时间内，蒋介石体会最深的，首先是“军队的基础是班长”这一原则。在日本军队内，班长已是职业军人，不退伍，因此军历较深。也是因为认识到班长的重要性，所以日本军队对班长一级的训练和业务都是严格保密，从来不教外国学生。
其次的体会是：军队内部要形成一个综合性结构。在日本的军队里，如剃头、看护、修理机械等，均由军队内部人员自行解决。军队的士兵多数要学习一种军务以外的技艺，以便于退伍后能够找到谋生的职业，不致因为当兵而失业。
第三个体会是：军队的官兵要有中心信仰。蒋介石认为对士兵进行政治、历史、地理等方面的知识教育十分必要。蒋介石亲眼所见，日本士兵都信仰天皇，忠于自己的祖国，同时也有历史。地理知识的教育。他认为，这是日本士兵作战勇敢的根本原因。
日本军营对军风、军纪及军营卫生的严格要求，也给蒋介石留下了较为深刻的印象。在日本军营里，寝室、讲堂均要求室内四角和门背面必须整洁干净；甚至连痰盂也有明文规定，除要求内外整洁之外，盂内的存水量也有标准，即不得超过总容量的三分之一。军队内负责查卫生的长官带着白手套，一进屋门就伸手往门横木和角落里摸。对此，蒋介石印象殊深。正因为印象深，受其影响，蒋介石当政时，最喜欢戴白手套，每到一处，都要四处摸一摸，检查干净与否。
蒋介石惟一认为不可取的，是日本军队内长官打骂士兵的残暴和野蛮。他曾说：“我看到日本军队的下级干部用对待奴隶牛马的方法来打骂士兵，当时就觉得这种军队能打仗吗？我们中国军队更应严禁官长打骂虐待士兵，遇事必须耐心教育劝导，使他们受到感化。”而实际上蒋介石也深受日本军队的这种影响，他性情急躁，好发脾气，稍不称心，不是骂人就是打人，而且蒋介石打起人来，一拳一脚，非常熟练。他当政以后，曾经随侍左右的侍卫长王世和、侍卫官竺培基就经常挨骂挨打。按照蒋介石的军规，长官打时，下级只准挺胸硬挨，不准闪避。这种“军规”，不知是根据蒋介石的哪一条“训示”制订出来的。在蒋介石的带动下，国民党军队里宫长打骂士兵是司空见惯的事情。
这一时期的学习经历和军营生活体验，对蒋介石的一生影响较大，既成为他日后教育部下的资本，也是他蒙受孙中山器重的原因。
更重要的是，蒋介石正是因为赴日留学，才结识了陈英士、孙中山等革命党人，使他的思想感情发生了极大的变化，从一个只是股陇地仇视清政府的普通青年，逐渐成为一个具有自觉意识的革命党人，成为了一个立志“光我神州完我责”的斗士。