1936年，毛泽东同斯诺谈到他在湖南第一师范读书的情形时说：“给我印象最深的老师是杨昌济，他是一位从英国回来的留学生，我后来同他的生活有密切的联系。”
在学校生活中，老师的关系最大，一个好老师的思想学识行为品德，往往对学生发生深远的影响。杨昌济是一位学贯古今、融通中外的学者，更是一位爱国心切、道德高尚、思想进步、诲人不倦的教育家。他一生“以直接感化青年为己任，意在多布种子，俟其发生”，曾有明志诗句：“强避桃源作太古，欲栽大木拄长天”，被人称为“经师人师，备诸一身，以故来学之士，一受其熏陶，无不顿改旧时之宇宙观，如饮醇醪，受其影响。”
当年以萧子升、毛泽东、蔡和森为代表的一批好学深思、力求上进的第一师范学生，聚集在杨昌济的周围。他们课后常登门聆教，或谈治学方法，或讲做人之道，或阅读书笔记，或论天下大事。老师的教导，首在思想志向和抱负，尤鼓励精读哲学；次为独立奋斗精神，即父子兄弟间也不可互相倚赖；读书治学，提倡自学为主，由博而精，重批判分析，决不盲从；尤讲究实践，学以致用，知行统一；做事有效率，深谋远虑；生活方面，严谨刻苦。所有这些，直到为人处世，养生之道，老师无不讲到做到，以身作则。在这样师生相敬、相得、相爱的情境中，潜移默化，终于开花结果。继承维新变法、辛亥革命在湖南的传统，以第一师范这批进步青年为基础而成立的新民学会，成为五四运动时期湖南革命力量的核心，而且为中国共产党的成立做了很好的组织准备。在学会成立时，毛泽东特别讲明这个学会的创立，同杨昌济的教导分不开。
杨昌济家世代书香，外祖父平江向家出过翰林，尤以理学传世出名，父亲终身授徒为业，关心时政，是儿子的蒙师。他“八岁失恃，十四岁失怙”，幼年曾受父亲影响，发愤自学，学古人的闭门不出，专心读书，持之以恒。1892年在《达化斋日记》中这样写道：“恒之云者，判数年之功，治指定之数书；一旬之中，不容有一书之阙；一月之中，必须有数十条通透之识。一年之中，或抄或作，必须有一二卷之成书；十年之中，必须小成；三十年之中，必须大成。如是以终身焉，则恒之谓也。”“然恒之云者，非必死守一书，弃绝百氏，读上句如无下句之云也。贵攒零合整，融化贯串。古人书文，为类百千，而各有其相通之处。”他提倡这种治学精神和读书方法，也一生实践了自己的主张，并影响于他的学生。
杨昌济19岁考取秀才，乡试（考举人）未中，即弃科举。1895年到1898年，继承父业，在家乡当塾师，自学重点转向王船山、顾亭林等知行统一、经世致用之学，接受龚（自珍）魏（源）康梁影响，借古鉴今，以“张三世”为改良变法的理论根据，认真研读《春秋公羊传》，也相信“天下大同”的儒家理想。同时刻苦自学英文和日文，准备出国留学。1898年进入长沙岳麓书院后，积极参加南学会的各种活动，为“通讯会友”。在讲演会上，曾向谭嗣同请教，谭嗣同很赞赏他的提问。在“百日维新”发布新政诏书时，他的论文《论湖南遵旨设立商务局宜先振兴农工之学》，在南学会课卷中被评为第三名，并发表在《湘报》上。他认为，农工本性为“朴钝”，“苟无士人为之联络，则各事其事，没世而不能相通。”“振兴农工之法，约有三端，一曰学堂，一曰学会，一曰学报，而三者之中，又以学会为最先。”必由“读书明理”之士人倡导，“慨然以振兴农工为己任，则随处聚会，随处讲论，而振兴之策，自日出而不穷也”。谭嗣同为变法牺牲后，杨昌济对这种视死如归的献身精神特别钦佩。后来在他的著作《论语类钞》中这样写道：“世之君子，有杀身忘家而不悔者矣。”“天下万世有大难，死一身一家，而生天下万世，仁人所愿也。”“谭浏阳英灵充塞于宇宙之间，不复可以死灭。”
1900年八国联军侵华之后，清政府开始实行废科举、办学堂、派留学生等“新政”，饬令各省设立专款奖励留学。杨昌济是在留日高潮中较早出国的。他自己说：“余自弱冠，即有志于教育。……处此时势，非有世界之智识，不足以任指导社会之责，于是出洋求学，留于日本者六年，复至英国留居三年有余，又往德国留居九月。”
1903年赴日本留学时，改号“怀中”，表示“身在异邦，心怀中土”。同行共30多人，他的年龄最大。先入东京弘文学院，后进入东京高等师范学校文科。
1909年离开日本，转赴英国留学，在爱伯汀大学攻读哲学、伦理学和教育学等。那时正是清朝末年，外侮频仍，国事江河日下，留学生中多有一种执著的忧国之心。留日学生办的刊物达20多种，杨度、杨毓麟等办的《游学译编》，以政治革命、种族革命为宗旨。杨昌济将他的部分《达化斋日记》发表于该刊，宣传个性解放，尊重个人理性，“天地万物，以吾为主”。同时强调变法维新，要以民为主，主张依靠下层“小民”，着力于改变思想：“变之自下者，效迟而可久”。“变科举，变学校，变之自上者也；变学术，变之自下者也”。又特别强调思想精神的能动作用：“天之力莫大于日，地之力莫大于电，人之力莫大于心。阳气发处，金石亦透，精神一到，何事不成？苟其公忠体国，百折不回，虽布衣下士，未始无转移世运之能也。”同杨昌济一道去日本留学的陈天华，著有影响极大的《猛回头》、《警世钟》等通俗革命读物，最后留下了激励同学“坚忍奉公，力学爱国”的绝命书，蹈海自杀，使杨昌济感到极大的悲愤。黄兴领导的广州起义失败，七十二烈士惨烈殉国之后，一同在英国留学的同族好友杨毓麟（笃生），也愤而蹈海自杀了。朋友的死，使他更加决心献身于教育事业，以此来报效国家和国民。
1909年杨昌济去英国深造时，系统研读西方哲学史、伦理学史以及当时欧洲流行的各种哲学流派的学说。尤对伦理学上之禁欲、快乐、功利、利己、利他种种主义，对比中外古今，进行考察研究。同时注意调查英国风俗习惯，大至言论自由、通信自由，小至不说谎，不随地吐痰等文明礼貌，都加注意，作为借鉴。
1912年在爱伯汀大学毕业，得文学士学位。接着往德国考察教育9个月，并旁及政治法律等。在波茨坦离宫参观时，得一印象极深之事：德皇威廉一世曾为扩建皇宫，强行拆毁一磨房。主人向法庭控告，法庭依法判决德皇赔偿损失，重建磨房，德皇只得执行。为此事他在《达化斋日记》中写道：“西人之尊重法则不屈于权势有若此者，乃东洋人之所未梦见也。”
杨昌济于1913年春回国。这时清朝已被推翻，成立了民国。湖南督军谭延闿想延揽他出任湖南省教育司长。他的留日、留英同学范源濂等人，这时都在北京政府当了总长，他不是个热衷仕途的人，决不肯做官，应聘到湖南高等师范学校（前身为岳麓书院）讲授伦理学、教育学和哲学等课程。高师是湖南当时的最高学府，也是第一次设这类课程，影响很大。他是一个律己极严、办事极认真的人。他把教书当作终身的事业来做。从他的《达化斋日记》中可以看到这种态度。如1914年7月5日：“长沙县公署委余为湖南第一联合中学校校董，余辞之，谓余将担负第一师范学校修身科之全责，加以教育每星期约20余小时，不得不以全力注之；联合中学校校董负责重大，未敢兼营，恐致于两方面俱不能尽其责任。”关于他在湖南高等师范学校任教的影响，当年的学生舒新域在解放前出版的《我和教育》一书中，这样写道：“在人格上最使我受感动者为杨怀中先生。……当时他教我们的伦理学。他的道德观是融合中国的性理学与英国的功利学派的伦理观而贯通之，故极重实践。其处世接物一本至诚，而一切都以人情物理为归。他律己极严，不吸烟，不饮酒，读书作文均正襟危坐，处以虔敬。但对他人则并不强加干涉，常谓美之所以为美，须有多态统一，于人亦然，只要其行为不害及群众，应听其自由。在经济上尤为耿介，除以劳力所得，绝不妄取一文。”