罗家伦两岁时，他的母亲就开始教他识字、背诵短诗。稍大，父亲也常传授古今诗，每天还亲自选录两三则有趣且富教育意义的典故，晚上先记在小册上，隔天早上叫罗家伦跪在榻凳上聆听，讲解完毕再将小册交给他复习，如此持续了好几年。罗家伦在文史方面的功力、造诣，不仅得力于父亲的指导，母亲的识字教学和背诵短诗的启蒙也功不可没。4岁时进入私塾，日后回忆这段私塾教育罗家伦的体验是：“像我5岁的时候念那‘天命之谓性，率性之谓道；修道之谓教。’这样‘形而上学’的经文，不但是读死书，更是读天书呢！”私塾教育的体验，造成罗家伦日后主张文学革命：要创造国语文学，打破古典文字的枷锁，以现代人的话，来传达现代人的思想、表现现代的感情。对他而言，童年时期的家庭教育远比私塾教育产生生更深远、更直接的影响力。
罗家伦直到15岁才进到美传教士高福绥所办的英文夜校学习外文，18岁那年，进入上海复旦公学就读，因国学功底很深，同学们戏称他“孔夫子”。中学时代，担任《复旦杂志》编辑，开始运用文字发表他的理念。1917年夏天，北京大学在上海招生，20岁的罗家伦投考北京大学，进北大文科主修外国文学。他是北大招生破格录取的一名学生。当胡适批阅罗家伦的作文试卷时，欣赏的给了满分，但是翻阅这位学生的成绩单，却发现数学成绩得个大鸭蛋，其他科也表现平平。但是招生委员会和主持会议的蔡元培校长，都对于破例录取无异议。罗家伦得以进入北大学习，主修外文。
罗家伦到北大读书那一年，正好蔡元培到北大上任。罗家伦曾回忆，当时北大有两个地方是他们经常聚会的场所，一是汉花园北大一院二层楼上国文教员休息室，钱玄同等时常在那里；另一个是一层楼的图书馆主任室，也就是李大钊的办公室。“在这两个地方，无师生之别，也没有客气及礼节等一套，大家到来就辩，大家提出问题来互相问难。大约每天到了下午3时以后，这两个房间人是满的。”罗家伦在北大讲究学术自由的风气中，接受良师益友的启发熏陶，不断地切磋琢磨学问；不停地活动、求发展；与同学办《新潮》，提倡文学革命；参加爱国游行，起草五四宣言。罗家伦虽是鼓吹革命的新潮派人物。但只要是有见解的教师传授课程，无论哪个科别，即使是守旧派大师，他也会去听课。当时老复辟派的辜鸿铭在北大讲授英国诗，他把英诗分为“外国大雅”、“外国小雅”、“外国国风”、“洋离骚”，罗家伦屡屡“在教室里想笑而不敢笑”，但是他对于辜鸿铭仍是非常的欣赏，并未以片面之言而废人。
1920年秋，罗家伦从北大外文系毕业，正好赶上上海工商界巨子穆藕初捐出五万银元给北大设立奖学基金，罗家伦与康白情、段锡朋等5位同学，被校长蔡元培选中，推荐出国留学。这5位优秀的北大学生出国留学在当时也较为引人注目，一家报纸将此比作晚清朝廷派出考察宪政的“五大臣出洋”。历届得到穆氏奖学金资助的北大学生，后来在不同的领域都各有建树。
罗家伦去的是美国普林斯顿大学研究院，不久又转到哥伦比亚大学攻读历史与哲学，实现了拜在杜威教授门下的心愿。因为傅斯年等人正在英国求学，所以他转赴英国伦敦大学研究院，又与傅斯年朝夕相处，互相辩难。不久又由其到德，入柏林大学研究院，两年后再转赴法国巴黎大学研究院，仍以历史与哲学为主修。1923年，穆氏企业破产，罗家伦的奖学金被迫中止。这年秋季，在结束了三年的留美生涯后，罗家伦带着《思想自由史》的译文和《科学与玄学》的书稿，前往刚刚结束了一战，物价较低的德国。
20世纪20年代很多中国留学生赴德深造，一是因为德国各大学府有浓厚而自由的学术空气，二是在战后马克大幅贬值的情况下，带外币在德国兑换使用格外实惠。当时很多有影响的人都聚在德国，如蔡元培、朱家骅、赵元任、俞大维、陈寅恪、徐志摩、金岳霖等，他们常在一起高谈阔论，畅所欲言，罗家伦晚年回忆起来，形容那是他极快乐的一段时光。
蔡元培是罗家伦最敬爱的长者，1924年，罗家伦留学期间与蔡元培通了好多封信。蔡元培与罗家伦，完全是一种师生关系，现在看起来，让人感觉很温暖。
蔡元培退休后没有房子住，他70寿辰之前，罗家伦这些过去的学生和同事念及他无一安身之处，便集资在上海给他建一所住宅。献寿的信由胡适起草，罗家伦等人修改后，以几百个朋友、学生的名义面呈。蔡元培经过三个多月的考虑，最终接受了众人对他这一番出于敬意的表达。但因“七七事变”的发生，这个心愿也未能实现。1940年，蔡元培去世了。
穆氏企业破产后，罗家伦一度以译稿补贴生活，但仍然陷于拮据。又是在蔡元培引荐下，商务印书馆监理张元济借给罗家伦一千五百元，让罗家伦完成了在英、法最后一年的学习研究。罗家伦对张元济一直心存感激，回国后多次要还这笔钱均被张元济拒绝，直到有一次以祝寿的名义还了张元济一千元钱，张元济才勉强接受。
总计罗家伦国内外十年的大学教育，走过中、美、英、德、法5个国家，读过6个学府，虽在国外未获学位，但是，他在史学、文学、哲学、教育、民族地理学、人类诸学的涵养，大有帮助于日后回国主持高等教育及史政机构的恢宏气概和高瞻远瞩。
在罗家伦回国后，出任清华大学校长之前，还有很多是非。当时，为了改变依赖外国培养高级人才的状况，清华大学校长从1916年起提出要逐步改为大学。经过10年努力，到1925年成立了大学部和国学研究院。这样一来，清华就有三个相对独立的教学单位：留美预备部还在，却不再招生，直到把原有学生全部送出去为止；大学部招收高中毕业生，接受四年专业教育，毕业生不享受出国留学待遇；国学院招收大学毕业或同等学力的学生，为的是培养国学教师和专门研究国学的人才。
1927年南京国民政府成立后，清华的归属问题提上议事日程。当时国民政府想让清华大学隶属于大学院（相当于教育部），但是外交部却以历史关系为由不愿放手。这一点，从该校《南下代表报告书》中可以看出。报告书说：“清华大学应归大学院管辖，在法律上已不成问题。惟外交部始终声称与清华在历史上有特殊关系，不允完全放手。而大学院蔡院长，又素持礼让态度，不愿力争。一则恐伤外交部与大学院之感情，再则恐酿成僵局，影响学生之学业。结果遂由大学院暂时会同外交部管辖。”这份报告书是1928年9月中旬写的。在此之前，清华大学经历了一个动荡不安的夏天，许多人由于时局混乱、政权更迭，正在为清华大学的命运担心。
据《吴宓日记》记载，早在6月初，清华园就“交通已断，邮信不至”，人心惶惶。有消息说，“海淀一带……将有所动作，先毁燕京、清华二校，……于是本校警备委员会遴请教职员多人彻夜分班巡逻”。随后又有“今夜放火，焚烧校舍”的传闻，使吴宓和衣而睡，彻夜难眠。紧接着，“本校国民党学生已于大礼堂前悬红底之青天白日旗。又于校中到处，满贴颜色纸条之标语。如铲除土豪劣绅，以党为国，党化教育之类”，局势才趋于平静。
6月中旬，校园里又盛传当局要解散清华。陈寅恪对吴宓说：“清华解散后，仍图居北京，则于学业进步较多。”吴宓同意他的意见，认为“非不得已，不离北京。清华如解散，而京中又为北大派所垄断，不能见容，则或者于辅仁大学等处谋一教职。薪金虽微，不计。”与此同时，吴还在日记中把“胡适、罗家伦之流”，视为“排除异己，以邪说曲学召世惑众者”。可见无论学术观点还是政治立场，那时吴宓与罗家伦都格格不入。
7月15日，陈寅恪借赵元任家设订婚筵，吴宓和罗家伦都应邀出席。那天吴不仅写了贺诗，还喝了很多酒。18日，吴宓又听说外交部已经为清华大学物色了三位校长人选，这三个人是凌冰、张歆海、罗家伦，“而以罗家伦为最有希望”。