1926年秋天，当秋风轻轻地从莱茵河畔掠过的时候，已经阔别家乡7年之久的傅斯年踏上了返家的历程。他先是抵达香港，再从香港转道上海，最后回到老家山东聊城——在欧洲留学的7年之中，傅斯年已经从最初的那个有着深厚国学造诣的年轻人，变成了一位学贯中西的年轻大学问家。
当年冬月，傅斯年携胞弟傅斯岩赶赴广州，出任中山大学文学院院长兼国文、历史两系主任。傅斯年一回国就成为中山大学文学院的“扛鼎之人”，这在今天看来是非常不可思议的，但是在当时却并没有引起一点儿的非议，因为傅斯年担任中山大学文学院的领军人物本身就是一件众望所归的事情。不论是校长戴季陶，还是朱家骅、顾孟余、丁惟汾等其他校务委员会成员都一致认为，让欧洲留学生中最出类拔萃的“两个天才型学者（另一位是陈寅恪）”之一的傅斯年担负起发展中山大学文学院的重任，那是再合适不过的事情了。
傅斯年和胞弟到达中山大学的时候，正值学生期末考试刚刚结束之时。根据学校的安排，将按照成绩的高低进行分级，成绩差的学生将在寒假中补习国文、外语和数学三科。由于傅斯年精通国文和外语，数学也有一定的基础，所以他一踏进中山大学的校门就开始指导学生们进行补习。第二年三月份，新学期一开学，他便开始讲授《古代文学史》、《尚书》、《陶渊明诗》、《心理学》等四五门课程。傅斯年博闻强记，许多古籍的原文和训释都谙熟于胸中，很多时候他上课都不带课本，直接拿几根粉笔上台就开始滔滔不绝地讲解起来，快的时候学生们连笔记都来不及做。因此，他在踏上中山大学讲台的一年多时间内，不但没有被学生们赶下台，还成为了学生们最喜欢的老师。
当时，迫于条件有限，学校开的好几门课都没有现成的讲义，于是他就自己下功夫编写，经常是晚上在灯下刻好油印的钢板，第二天油印好再发给学生。对于这种情况，傅斯年曾经这样说道：“日中无暇，每晚十一时动笔写之。一日之劳，已感倦怠，日之夕矣乃须抽思，故文辞不遑修饰，思想偶涉枝节。讲义之用，本以代言，事既同于谈话，理无取乎斫饰，则文言白话参差不齐之语，疏说校订交错无分之章，聊借此意自解而已。其中颇有新义，深愧语焉不详。此实初稿，将随时删定。一年之后，此时面目，最好无一存也。”
在努力培养学生的同时，傅斯年也尽力增强中山大学文学院的师资队伍。1927年，傅斯年先后聘请来了鲁迅、施存统、许德珩、容肇祖、吴梅、丁山、罗常培、顾颉刚等人。他还打算聘请更多的著名教授前来风气较为开明的中山大学任教，这样既能够让他们“免受政府的气”，又能够让他们安心治学，教育出更多的优秀人才来。
可以说，傅斯年的努力并没有白费，此后又有一大批知名学者教授前来中山大学任教，赵元任、何思源等著名学者也站上了中山大学的讲台。因为，傅斯年跟他的老校长蔡元培一样，遵循“兼容并包”的治学原则，既欢迎深谙西方文化的“新派学者”，也尊重对于国学有造诣的“耆旧宿儒”，所以在他上任后没几年，中山大学就一跃成为了国内知名大学之一。
《傅斯年传》作者马宽亮、李泉在谈到这一时期的傅斯年之时，曾用动情的笔墨写出了这样一段话：
傅斯年热爱教育，重视教育，尤其重视培养选拔有才华的学生，视此为振兴中华学术的根本保证。但是他的理想不只是做一个大学教员，也不只是做一般的教学行政工作，他要将自己学到的科学知识、方法付诸实践，组织起一批优秀的学者进行“集众”的研究，成就中华学术的大事业。
1928年，受蔡元培先生之聘，傅斯年成功筹立了中央研究院历史语言研究所，任专职研究员兼所长。可以说，创办历史语言研究所是傅斯年一生中最伟大的功绩，傅斯年“希望将它办成一个有科学性而能在国际间的学术界站得住的研究所”，而最终由他主持创办的历史语言研究所也真正成为了一个在国际上享有不错声誉的研究机构。以研究民国文人学者为主的著名作家岳南在《陈寅恪与傅斯年》一书中这样描述了历史语言研究所对于傅斯年的重要性：
傅斯年先生有学术心，也有学术事业心。他北大毕业后留学欧洲，回国后在中山大学教书，不久就在中山大学创办了“语言历史研究所”，这是1927年秋天的事。1928年10月，傅斯年又在中山大学语言历史研究所的基础上，筹备建立了中央研究院历史语言研究所。史语所成立后，他出任所长，一直到1950年去世。他的社会、政治领域的职务千变万化，名堂甚多，但史语所所长这个职务却是他一直担任到底的。他以史语所为基础，对中国近代学术事业作出了很大贡献，中国的历史、语言研究由此向前推进了一大步。特别是田野考古工作，可以说是到傅先生与李济、梁思永等那一代人手中才成为科学的，小屯殷墟的考古发掘是傅先生和史语所同仁建立起来的最早的科学工作。傅斯年主持中央研究院历史语言研究所的二十三年中，为中国史学、考古学、语言学、民族学培养了众多人才。新中国成立后，一大批在这方面有贡献的学者，大多都受过他的培养。因而在这一领域，傅斯年是当之无愧的第一功臣。
1929年，傅斯年回到了阔别已久的北京，并兼任北京大学教授，讲授“中国上古史专题研究”及“中国古代文学史”。1931年，“九·一八”事变爆发后，傅斯年于次年10月出版了《东北史纲》一书，针对日本学者“满蒙在历史上非中国领土”的无耻言论，他详细地论证了东北自古就是中国领土的史实，字里行间对日本人的无耻行径进行了激烈的驳斥。后来，这本书由李济翻译成英文送交国际联盟，成为李顿调查团的一项重要参考，最终李顿调查团根据傅斯年的论证结果，在报告书明确指出东北三省“为中国之一部，此为中国及各国公认之事实。”
1937年7月7日，全面抗日战争爆发了——随着狼子野心的日本发动罪恶的全面侵华战争，傅斯年的“平静生活”就此被打断。
全面抗日战争开始之后不久，北京就成为了沦陷区。一路逃难的傅斯年面对着国土沦陷、民不聊生的悲惨景象，内心十分的凄凉与愤怒。不久之后，傅斯年就将这满腔的愤怒对准国民党政府高层发泄了出去。
在抗战全面爆发后，国民党政府接连在正面战场上打了败仗，损兵折将百万余人的同时也让大片国土成为“敌占区”。可就是在这个民族危亡、国家危亡的紧要时刻，国民党政府中依然有很多人不管不顾继续贪污享乐，“前方吃紧，后方紧吃”就是对当时这种情况最恰如其分的描述。所以，傅斯年在这个时候站了出来，一直以敢言敢说被称为“傅大炮”的他将炮口对准了“贪污头子”孔祥熙，他连续两次直接弹劾孔祥熙。
在傅斯年对着孔祥熙开炮之后，与孔祥熙是连襟的蒋介石以“压着不办”的方式想将这起弹劾风波悄悄掩盖过去。可是，蒋介石却低估了傅斯年的决心与毅力，在经过很长时间的准备后，他还是找出了孔祥熙的贪污事实，直接在国民参政大会上炮轰孔祥熙。最终，使得蒋介石只好亲自出面找他来解决这一事件。但是，令蒋介石没有想到的是，“傅大炮”根本就没有给他面子，他也狠狠地挨了傅斯年一炮。
蒋介石在找到傅斯年之后，问道：“孟真，你信任我吗？”
傅斯年回答道：“我绝对信任。”
蒋介石看傅斯年这样回答，以为解决孔祥熙的事情将不会成为一件难事，他接着说道：“你既然信任我，那么就应该信任我所任用的人。”
然而，傅斯年接下来的话却蒋介石感到非常的没面子，他一点儿都不犹豫地回答道：“委员长我是信任的，至于说因为信任你也就该信任你所任用的人，那么，砍掉我的脑袋我也不能这样说。”
最后，蒋介石只好向傅斯年妥协，将孔祥熙赶下了台。
1945年的夏天，就在抗日战争快要结束的时候，宋子文又一次被选举为行政院长。一直对“贪污犯”宋子文没有好感的傅斯年，这时候又忍不住开始向宋子文开炮——1947年2月15日，傅斯年在《世纪评论》上发表一篇轰动政坛的文章《这个样子的宋子文非走不可》，对宋子文的胡作非为进行了猛烈抨击。最终，宋子文也只能在社会上的一片反对声中选择辞职下台。