胡适去世的当天晚上，即组成治丧委员会，陈诚为主任委员；张群、王云五、朱家骅、蒋梦麟、王世杰、黄季陆为副主任委员；于右任、蒋经国等为委员，共103人。
灵堂设在台北市极乐殡仪馆。胡适的遗体安放在冷杉木特制的灵柩里，身着蓝色长袍，黑色马褂，脚穿布鞋。遗体上覆盖着北京大学校旗。蒋介石亲往祭吊，并亲书挽联一副，辞曰：
适之先生千古新文化中旧道德的楷模；
旧伦理中新思想的师表。
蒋中正敬挽这确切地概括了胡适一生复杂思想和经历的挽联，悬挂在灵堂中央。治丧委员会收到各界人士送的挽联挽幛八百余件，其中如：
前往灵堂瞻仰遗容的市民络绎不绝，殡仪馆前几天内人流不息。
3月2日，陈诚率治丧委员会全体委员举行公祭，参加公祭的有75个单位；此外，有各界名流、军人、学生、平民、家庭妇女及驻台外交人士等前往致祭，瞻仰遗容，与胡适博士告别，总计达38000余人。下午2时大殓。3时启灵出殡。从台北市到南港的马路两旁自动来送殡者多不胜计。灵车开至松山以后，沿途居民家家燃香，户户路祭，直到南港，一路鞭炮声不断。据目击的记者估计，自胡适逝世到出殡，前往祭吊和路祭送殡的市民，总计达10余万人。①
10月15日，安葬胡适于台北南港旧庄墓园。他虽然未能回到美丽而且富饶起来的黄山故乡，却总算长眠在自己祖国的泥土里。墓门上刻着蒋介石书写的“德学俱隆”四字。右首高坡上，有北京大学校友会建造的纪念亭；左首有中国公学校友会建造的半身铜像。墓碑上刻着：
这是胡适先生(民前二十一——民国五十一年)的墓。
这个为学术和文化的进步，为思想和言论的自由，为民族的尊荣，为人类的幸福而苦心焦虑，敝精劳神以致身死的人，现在在这里安息了!
我们相信，形骸终要化灭，陵谷也会变迁，但现在墓中这位哲人所给予世界的光明，将永远存在!
中央研究院胡故院长适之先生治丧委员会立石10月18日，“中央研究院”院务会议决议，以胡适生前住所作为“胡适纪念馆”
，并成立管理委员会。1964年8月，美国美亚保险公司负责人史带先生捐赠美金25000元，1970年5月，史带基金会又捐美金25000元，为胡适纪念馆基金。
胡适生前留有英文遗嘱，其主要内容有：一、请求火葬(按，后改棺葬是胡适夫人江冬秀的意见)；二、遗留在北京的102箱书籍、手稿、文件，捐赠北京大学；三、留存在纽约寓所的书籍、手稿、文件，捐赠台湾大学；此外还有遗产处理等项。但清点胡适在南港的财物时，除了书籍、文件之外，余款仅135美元。