我常常感到，国家亡掉了不可怕，还可以复活，要是国家的文化亡掉了，就永远不会翻身了。
——南怀瑾
对于南怀瑾而言，“收拾山河”最重要的使命就是“收拾”传统的文化。
在归隐杭州期间，南怀瑾曾于1948年间去过一趟台湾，但去的时间并不长，很快就又回了大陆。此后南怀瑾又于1949年2月28日到了台湾。这一次，他在台湾足足住了36年。
南怀瑾虽然并非国民党的要员，但是此前说过，在感情上，南怀瑾始终是更加亲近于国民党的，他曾在国民党中央军校当过武术教官，一直自认是蒋介石的学生。
在前往台湾之前，南怀瑾曾试图说服父亲和他一起走，但父亲却坚持不愿离开家乡，最终，南怀瑾一人到了上海，住到了虹口区的一个佛教医院。直到国民党退守台湾，并宣布从1949年3月1日起，要实行出入境管理制度之后，南怀瑾才下了决心，坐船前往台湾，抵达的那一天正好是2月28日，出入境管理制度实行前的最后一天。
到台湾之后，南怀瑾并没有安心在此居住。南怀瑾一辈子都不喜欢外国，于是打定了主意，跑去找一个小岛住下，打算做点海上生意。要做海上生意，少不了船和枪，那个时候这两样东西一般人是弄不到的，但南怀瑾的朋友三教九流，什么人都有，很快，他就和几个朋友一起搞到了三条船和十几杆枪，办了一个名为“义利行”的公司。这是南怀瑾平生第一次做生意，也是最后一次。后来，南怀瑾还曾做过香港一家公司的挂名董事长，但只挂名，而从来不负责任何实际经营。当然，那已经是很久以后的事情了。
南怀瑾开“义利行”，为了利的同时更是为了义，因此，但凡是大陆逃过来的人，只要来找到了南怀瑾，南怀瑾必定是会慷慨解囊接济他们。在这期间，南怀瑾还从国民党的手下救了许多人。
国民党在逃到台湾之后犹如惊弓之鸟，在“抓匪谍”的政策下大开杀戒，只要抓了可疑的人就用麻袋一套，丢到海里，实际上这些被杀的人中，并没有几个是真正的谍匪。当时，国民党规定，凡是从大陆来的人，必须要有人肯为他担保，但如果一查出与共产党有关联，那么连带担保人一起，都会丧命。南怀瑾曾在中央军校任教，自然与国民党内许多军官都熟识，他是个极其爱管闲事的人，别人不敢担保的，他都敢，不管认识不认识的人，凡是找到他，他几乎是不会拒绝的。甚至到后来，找他的人多了，他直接把自己的印章交给了联检处处长，只要能说出他名字的人，就能盖到章，他就愿意给担保。南怀瑾当年一共担保了四百八十多人，这其中有许多人都和他成为了好朋友。
南怀瑾在抵达台湾不久之后便组织了新的家庭，夫人名叫杨向薇，也是孤身来到台湾来的。而南怀瑾的原配夫人在得知南怀瑾在基隆之后，也随即带了不到10岁的小儿子寻到了基隆。当时有两个夫人并不触犯法律，南怀瑾一家人也和和美美地生活在一起。
“义利行”的生意本还算顺利，但没过多久就遇到了灭顶之灾。国民党征用了“义利行”的船，损失了三千多两黄金，所有的老本统统赔光了。一夜之间，南怀瑾变成了一个甚至需要靠典当衣服来维持生活的穷光蛋。此后，南怀瑾迁到了台北一个菜市场旁边居住。在生意失败之后，由于经济问题，原配夫人又带着孩子回了家乡，从此与南怀瑾天各一方。新夫人一共为南怀瑾生了四个孩子，两男两女。但夫妻俩最终并没有能够白头到老，1973年，南怀瑾与杨向薇正式分开了。
南怀瑾一向重视中国传统文化的传播与发展，为了拯救台湾在日本人统治下断裂的中国传统文化，他在好心人的帮助下印了几百套佛经，但很长时间都没能卖出去。后来有一位商人买下了他全部的佛经，但竟是拿去包肉卖给客人的。多年以后，南怀瑾时常会将这件事情当成一个笑话告诉别人，但这个笑话中却饱含了多少的辛酸与悲哀啊！
1955年，在生活最拮据的时候，南怀瑾出版了他的第一本书，名为《禅海蠡测》，这本书当时同样卖不出去，但在10年后，少数被保留下来的旧版书在香港卖到了20美元的高价。
20世纪60年代到70年代中期，是南怀瑾事业发展的鼎盛时期。在这个阶段，台湾社会有了翻天覆地的变化，台湾的经济开始走向繁荣，人民的生活也逐渐富裕起来。在这样一个大环境之中，邀请南怀瑾讲学的学校以及政府机关、社会团体越来越多。
1963年，台湾中国文化大学向南怀瑾发出了聘书，邀请他担任大学的教授，这是南怀瑾到台湾之后的第一份正式的工作。对此，感慨万千的南怀瑾写了这样一首诗：
门外忽传走转车，
聘书递送却愁余。
自从长揖山林后，
又向人间填表书。
南怀瑾讲课十分有特点，从不带讲稿，嬉笑怒骂海阔天空中却又带着极强的逻辑性，他的学问实在太多了，信手拈来便是一堂精彩绝伦的讲课。南怀瑾一直认为，但凡是学生不爱听你的课，只能说明是老师教得不好。
正因如此，南怀瑾深受学生欢迎，名气也越来越大。但由于他没有正式的文凭证书，因此他没有资格去公立大学任职。当时，国民党教育部想给南怀瑾开个“后门”，送他一纸公立大学的教授资格证书，但南怀瑾却一直不肯接受。南怀瑾说：“麻烦你们跑了许多趟，真对不起部长和你，但并非我不识抬举，不通人情，无奈我并不想取得什么资格，事实上我不想把我这些不成文的著作拿去请人审查，当然就不能在这表上签名盖章。”
在这段时间里，南怀瑾总算拥有了一个较为安定的生活环境，他在大学里教书，在社会上演讲，但对于这一切，南怀瑾并未感到满足，他试图登上更大的舞台，向更多的人弘扬传统文化。
1966年，南怀瑾接受了蒋介石和蒋经国父子的邀请，到台湾三军各驻地发表巡回演讲。其在冈山空军基地的演讲深深打动了蒋介石，蒋介石一回到台北就立即下令成立了“复兴中华文化委员会”，并邀请南怀瑾来该委员会主持工作。但南怀瑾却婉言谢绝了蒋介石。一直以来，面对各种各样具有诱惑力的头衔，南怀瑾都拒之门外，这个做法一直到晚年也不曾改变。
徐福奉秦始皇之命寻找仙药的传说在中国几乎家喻户晓，但对于这个传说，日本一直讳莫如深。1969年11月，日本兴建了一座徐福庙，向中国显出了一副友好的姿态。应日本邀请，台湾派出了一个“中日文化访问团”前往日本参加徐福庙的落成典礼。何应钦任该团团长，南怀瑾则以学者身份参与其中。这是南怀瑾第一次到国外进行访问。
在这次访问中，令人意外的是，日本方面的与会者都具有相当高的汉学水平，甚至还有专门研究唐诗的学者。日本有一位名为木下彪的汉学专家，对唐诗非常有研究，南怀瑾在日本时与他结成了诗友，直至南怀瑾离开日本之后，木下彪还与他保持着诗文往来。
对于此次日本之行，一位学者回忆道：“这次到日本去，幸亏我们还有个南怀瑾，否则中国人会大丢其人啊！”
此次访问日本之行时日虽短，南怀瑾却也感慨颇多，在回程的飞机上写下了一首诗：
空到东瀛走一回，
平添感慨有沉哀。
低徊富士山头白，
我又乘风归去来。
在1969年9月，南怀瑾的一些弟子与一些外籍学者在美国加州成立了“东西精华协会”。同年11月，在南怀瑾访日之际，“东西精华协会”总部在台北成立，南怀瑾亲自担任会长。创立这个协会，南怀瑾的目标非常明确，他将筹建“安颐别业”和“青少年辅导院”，以实现《礼记》中“老有所终，壮有所用，幼有所长”的理想。同时，为了能够让传统文化影响到更多的人，南怀瑾还计划筹建“国际文哲学院”、“禅学进修班”、“美术进修班”、“语文进修班”、“国医进修班”、“国乐进修班”以及“西洋哲学进修班”等，这些想法都被南怀瑾写进了委员会的章程之中，并成为他此后十几年的奋斗目标。
协会创立之初，条件非常艰苦，只有少数几个学生追随他，该协会的第一个讲座题目为《易经》，由南怀瑾亲自讲演，但听课的人只有十几个。由于经费不足，南怀瑾除了拿出自己为数不多的积蓄外，也一直在努力向社会募集资金。
后来，协会搬迁到了台北连云街莲云禅苑四楼，学员增加到了六七十人。南怀瑾讲学的范围也越发广阔，从传统文化涵盖到了别的领域。此时，南怀瑾的讲座几乎每场都爆满。协会还特别聘请了许多专家，开设了国乐、书法、国画以及太极拳等课程。
1976年5月，南怀瑾创办了“老古出版社”，并自己担任发行人。随即，南怀瑾的《论语别裁》正式问世，引起了台湾出版界的轰动。《论语别裁》长达67万言，以翔实准确、妙趣横生的方式讲述了《论语》，获得广大读者的欢迎。
1976年底，南怀瑾将出版社的所有事务都交给了学生古国治，开始了他人生的第二次“闭关”。此次闭关长达三年，于1997年底“出关”。
1980年1月，“东西精华协会”再次搬迁，并改成名为“十方丛林书院”的佛学院，并正式开始挂牌招生。该学院中每周四都有一个特别班，参加这个班的人多为各界的高层人士。南怀瑾曾写过一副记录了当时情况的对联：
白屋让王侯，座上千杯多名士；
黄金如粪土，席前百辈数英雄。
这个特别班由于有许多高官的参与而产生了巨大的影响，后来甚至引起了台湾当局的担忧。在这样的情况下，南怀瑾做出了一个极其不情愿的抉择——离开台湾，前往美国。在南怀瑾离开没有多久之后，特别班的班长，在台湾政坛显赫一时的人物萧政之锒铛入狱，被监禁了一年零八个月。
十年之后，再谈起南怀瑾，萧政之的评价是：
南先生可以说是近百年来禅宗第一人，他主持的“禅七”是禅宗大手笔，虚云大和尚都比不上；他的佛学著作将现代化的内容加入了佛教经典，南先生是个真正大彻大悟的人！