1902年初，年仅13岁的陈寅恪跟随哥哥陈师曾前往日本。他们从上海的吴淞口出发，乘船到达日本时，留日的中国留学生已经多达8000人。
在这一年，与陈氏兄弟一同前来日本留学的还有鲁迅。3月24日，鲁迅从矿路学堂毕业后跟随江南陆师学堂总办俞明震的队伍一同去往日本，同行的还有22名陆师学堂的毕业生和6名矿路学堂毕业生。陈氏兄弟和鲁迅一起进入日本东京弘文学院学习——东京弘文学院是一所日本政府专门为中国留学生学习日语而开办的补习学校。
在弘文学院，陈氏兄弟跟鲁迅结下了深厚的友谊。鲁迅和陈衡恪住在同一个宿舍，每天朝夕相处，关系十分密切。
鲁迅在这里用了两年时间取得了毕业文凭后，在1904年9月8日离开东京，前往仙台的专门学校学习医学。而陈寅恪则在这一年的夏天回到南京。回国后，陈寅恪又和五哥一起考取了官费留日的资格。到了年底，陈寅恪父亲把自己的两个儿子亲自送到渡口登上了前往日本的轮船，临别之时还作了一首诗送给他们：
游队分明离两儿，扶桑初日照临之。送行余亦自厓返，海水浇胸吐与谁。
老父亲对儿子依依不舍的感情包含在诗中，诗中同时也充满了对儿子的期盼。陈氏兄弟二人顺利抵达日本之后，五哥陈隆恪进入日本庆应大学，随后又转入东京帝国大学的财商系，而陈寅恪选择继续留在弘文学院读书。
陈寅恪在日本留学期间，几乎把精力都放在了对新式文化的学习上。同时，他也不忘留心观察和体验日本的民俗风情和人文特征，一有时间就阅读大量的日文学术著作，研究日本的文化、历史和中日交流的过程，这些都极大地提升了他的日文水平，为后来援引日本的资料研究隋唐史打了下深厚的基础。
1905年底，陈寅恪因为身体抱恙，无奈地离开日本，返回中国休养。在家里休养了将近一年多时间后，1907年，陈寅恪考取了上海复旦公学，以插班生的资格继续学习。当时他的同班同学还有竺可桢以及后来著名的史学博士徐子明。
陈寅恪就读的复旦公学创立于1905年，是清末新式公立学堂中具有现代感的一所学校。这所学校只招收国学功底深厚的学生，并且教师都用英文上课。可以说，这所学校是以培养学生将来进入欧洲大学留学作为其办学宗旨的。除了英文之外，学校规定学生要懂得德文或法文的其中一种，校内开设的课程里还包括了一般的学堂并不教授的西方古典语言课，例如拉丁文。陈寅恪在这里孜孜不倦地学习英、法、德等语言，有了坚实的语言基础，后来顺利留学欧洲。
1909年，陈寅恪从复旦公学毕业后前往德国留学。第二年，陈寅恪凭借扎实的功底考入德国柏林大学，学习语言。
1911年春，陈寅恪旧疾复发，需要离开德国休养。于是，他在挪威度过了二十多天。在挪威的日子轻松而惬意，泛舟北海，挪威美丽的风光尽收眼底，让陈寅恪心旷神怡，然而想起在家乡乘着竹筏遨游的点滴乐趣，浓浓的思乡情又一次次涌上心头。这年秋天，陈寅恪转入瑞士，在苏黎世大学就读。冬天的瑞士分外动人，一直都很思念家乡的陈寅恪在火车上情不自禁地写出了这样的诗句：
造物作画真奇恢，下笔不假丹与煤。
粉白一色具深意，似为俗眼揩尘埃。
车行蜿蜒上绝壁，苍龙翘首登银台。
杉松夹道戴冰雪，风过撞击鸣琼瑰。
碧泉喷沫流涧底，恍若新泻葡萄醅。
直须酌取供渴饮，惜我未办玻璃杯。
我生东南山水窟，亦涉弱水游蓬莱。
每逢雪景辄探赏，何曾见此千玉堆。
车窗凝望惊叹久，乡愁万里飞空来。
虽然身处遥远的欧洲，但是同很多海外求学的游子一样，陈寅恪对祖国的眷恋一直浓厚。
在瑞士苏黎世大学求学期间，陈寅恪仔细钻研德国原版著作《资本论》，当时的陈寅恪可以算是中国人中阅读德国原版马克思著作的第一人了。
辛亥革命之后，国内形势动荡不堪，陈家从南京逃难到了上海，在上海定居下来。陈寅恪十分担心家人的安危，再加上留学经费已经所剩无几，于是他在1912年春天返回上海。
1912年2月12日，宣统皇帝颁布了退位诏书，辛亥革命彻底结束了中国长达两千多年的封建统治。陈寅恪亲眼目睹了清王朝被推翻后社会形势的巨大改变，而自幼被封建传统文化深深浸染的他在面对中国翻天覆地的变化时，那种复杂、矛盾的心情可想而知。在回复一位北京友人的信时，他道出了无尽沧桑的感慨：“优游京洛为何世，转徙江湖接胜流。”接着，他又忍不住发出“西山亦有兴亡恨，写入新篇更见投”的悲怆之声。
不久之后，陈寅恪在筹措好留学的费用后，再一次前往欧洲。1913年春天，陈寅恪顺利考入法国巴黎高等政治学校，并在社会经济部学习。就是在这里，他得以更加系统地学习了西方政治经济学的基础知识，也在这里学会了从经济、政治、文化几个方面去分析社会。
1915年春，陈寅恪回国后担任当时新成立的经界局局长蔡锷的秘书。而在这时，鲁迅和陈衡恪都在教育局上班。对与当时二人的关系，后来鲁迅在他的日记里这样回忆：“我赠予陈寅恪《域外小说》第一、二集，《炭画》各一本。”由此可见，陈寅恪兄弟与鲁迅两人之间的感情非常深厚。不过，后来鲁迅成为著名的文化斗士，而陈寅恪对于自己与鲁迅的友谊很少向别人谈及，因此人们对于他们之间的交往了解并不多。
1918年冬天，陈寅恪再次走出了国门。这一次他本计划去德国柏林大学深造，但当时第一次世界大战的余波尚未熄灭，影响了他的德国之行。当年，11月底，陈寅恪选择前往美国继续深造。
1919年年初，陈寅恪到达美国，并在第二年进入哈佛大学，跟随著名的兰曼教授学习巴利文和梵文。