1949年国民党军队兵败如山倒之际，钱穆是主张蒋介石应下野的人士之一。日后，蒋介石却对钱穆礼遇有加，甚至公开说，或许钱穆等人当时所言，"对国事是有利的"；为表达对钱穆的敬重，蒋介石在面见钱穆时，特别将中山装改为一袭长袍；钱穆对朱熹与王阳明学说的专精，与崇尚王阳明的蒋介石更是一拍即合。

移居台湾之初，钱穆先住进台北市区的"自由之家"，继租居于台北金山街，在蒋介石的高度礼遇下，国民政府拨出位于台北外双溪东吴大学旁的土地，并拨公款建屋，供钱穆夫妇居住。这栋雅致的别墅式两层楼房，正是大名鼎鼎的"素书楼"。故宫博物院特聘他为研究员，不仅让钱穆免于为生活发愁，亦得以遍览四库全书等重要典籍，安心创作。

盛情难却下，钱穆又应中国文化学院(今中国文化大学)校长张其昀之邀，于历史研究所执教并出任所长。较钱穆早年余来台的林语堂，住在阳明山上文化大学附近，与钱穆住得近，原本并无深交、作风一中一西的两人从此往来频繁，成为莫逆，英文造诣深厚的林语堂甚至说，看过钱穆的《中国近三百年学术史》，让他决定从此改用中文著作。

1968年，时年七十四岁的钱穆与郭廷以等人，膺选为国民政府的中央研究院院士。这是国民政府对各领域研究者提供的最高学术荣耀。

其实以钱穆的分量，早在1948年，胡适主持首任中研院人文组院士选拔时，就该被提及；但钱穆与胡适、傅斯年等的治学途径与西化理念截然不同，他的史观与治学方法更不能被主张以西方科学治史的傅斯年接受，傅斯年曾嘴硬地说，从不看钱穆的文章。不仅1948年的院士提名钱穆连边都没沾上，1945年北大复校时，随国民政府西迁大后方的教授群唯独钱穆未获续聘，之后钱穆长期停留香港办学，自然也不会被提名。

1958年4月，胡适赴台接任中研院长，不少钱穆的学生质疑中研院院士独缺钱穆，欠缺代表性，不过双方歧见已深，门户之争的结果，钱穆还是无缘被提名。钱穆一度动意气，1966年，虽有多名资深院士主张提名钱穆，但他断然拒绝，钱穆反问，早在1948年，中研院就提名八十多名院士，他难道不该入列？虽然弟子们反复劝说，直到两年后钱穆才愿意接受提名，并随即获得全票通过。

之所以选择落脚外双溪，钱穆表示，住在外双溪故宫博物院附近，可以就近利用故宫图书馆，看到世界最丰富、珍贵的善本书。此外，将重心放在学术著作的钱穆，婉拒许多大学的讲学邀约，避免舟车劳顿，专心著述。但钱穆以鸿儒的身分，依旧推辞不掉四处的短期演讲与讲座，以宣扬历史理念。

"素书楼"之名源于钱穆无锡七房桥五世同堂故居中第二大厅的名称，先人取名来源已不可考，钱穆尝自解，或脱衍自《中庸》所记，"素贫贱，行乎贫贱；素夷狄，行乎夷狄；素患难，行乎患难；君子无入而不自得。"胡美琦指出，钱穆年幼患伤寒，又服错药，性命怠危，全赖母亲日夜陪他在故居"素书堂"养病而得痊愈，钱穆为纪念母亲生养之恩，因此命名，

素书楼不大，兴建时周边是一片荒凉的墓地，杂草丛生，产权为阳明山管理局所有。为表达对大师的敬重，国民政府将素书楼无偿全权交给钱穆夫妇打理。是以房舍由胡美琦亲自设计，楼内一砖一石、一草一木都是主人多年心血照顾而来；步道两旁的枫树、房舍后方的竹子、四棵苍劲的古松，更是素书楼知名的景观。向来崇尚朱熹理学的钱穆，在素书楼藏有一座朱熹的木刻像，又将朱熹所言"静神养气"，"立修齐志、读圣贤书"写成对联，张贴楼中。

钱穆在"素书楼"展开讲学著述，除散步运动外，每天看书、写稿、讲学，无一刻闲暇。《中华文化十二讲》、《孔子与论语》、《世界局势与中国文化》等经典著作都在素书楼完成。