回国后的唐国安从事过各类职业，也颇有建树，但他为人生所书写的浓墨重彩的一笔，还是从清游美学务处的成立开始的。
八国联军之役引发清政府签订的《辛丑条约》，其中一项中国要向列国赔款四亿五千万两，由于战事爆发于1900年，因此该项赔款亦称为“庚子赔款”。连利息计算在内，总赔款额达九亿八千万两白银，中国要以39年的海关关税来抵扣，美国不计利息也能净收三千二百万两白银。当时清廷驻美公使梁诚认为美国所得的赔款过多，多次向美国交涉，希望减少赔款。美国国会最终于1908年通过将超收的一千一百万美元赔款退还给中国。
这笔款项中国必须先付后退，而且还规定中国必须将该笔退款用于中国留美学生事务上，因而该批留美学生亦称为“庚款生”。美国愿意退还赔款，部分是由于梁诚不断努力斡旋的结果，另一部分当然也有其政治目的，就是美国希望藉着教育中国学生，从而获得精神上及商业上的好处。
整个退还款项的过程中，许多参与者都来自中国首批留美潮（1872至1881年）的留美幼童，除了之前提及的驻美公使梁诚外，还有参与创办游美学务处的第一任清华学校校长——唐国安。唐国安曾就读耶鲁大学法律预科，1881年清廷撤回幼童时随团回国，及后成为游美学务处最主要负责人，1909至1911三年间招收了三批直接留美生，直派美国留学，总数约二百人，而且还亲自带领首批学生赴美，所走的是当年兴起第一次留美潮的中国“留学生之父”容闳的路线。唐国安不但恢复了当年容闳未竟的留美计划，而且还奠定了第二波留美学潮。
唐国安在选送学生过程中，首两批学生均未达美国每年100人的规定，他深感选送不是办法，必须靠自己办学校，培养赴美人才，而将来学成回国的毕业生也有作育英才，回馈所学的教育场所。因此，游美学务处在1909年于北京西郊清华园兴建游美试学馆，翌年年底易名清华学堂。
清华学堂最重要的贡献是改革学制，由原本的五三制改为四四制，完全配合美国大学学制。1925年清华学堂成立大学部，1928年改为国立清华大学，直至1929年结束派送留美生为止，清华先后派出留美生共1099人。当年这批庚款生背负国耻，一方面珍惜留学机会，另一方面记着这笔留美费用的来处，以救国为己任，努力学习，因而造就了许多杰出人才。1909年首批庚款生中，梅贻琦于1931年任清华大学校长，他留给后世的教育名言是：“所谓大学者，非有大楼之谓也，有大师之谓也。”
翌年第二批庚款生中，造就了不少著名科学家及学者，如中国首位现代数学博士胡明复、中国近代气象科学奠基人竺可桢、北大校长胡适、中国语言学研究始祖赵元任。赵元任曾就读康内尔大学及哈佛大学，本科读数学，博士研究生时攻读哲学，最后选择以语言学为终身事业，所著《我的语言自传》一书可见他研究语言学的抱负。赵元任也是博学之才，家喻户晓的《教我如何不想她》就是他谱的曲子。他与歌词作者刘半农相识于1925年的法国，翌年赵元任把词谱成曲，后来他在外国生活时，经常将这首曲子哼在嘴边，抒发当时游子想念祖国的情怀。
而其后的庚款生中也包括了中国儿童教学创始人陈鹤琴、清华大学物理系创办人叶企孙，以及考古学大师李济等等。陈鹤琴于美国攻读心理学及教育学，适值五四运动期间回国，把西方教育经验引入中国，加入西方学校儿童心理及行为的研究分析方法，并且以自己的长子作为观察对象，有系统地记录了儿子每日的大小事情，更身体力行，将西方教育思想融入家庭生活中。
从1909年起，每年用退款遣派100名学生赴美学习，从第五年起减为每年不少于50名，依此循进，至1940年结束，期限32年，是为庚款办学。其时唐国安因“中西学问，均属精通”而出任游美学务处会办，并担负选择学生留美的主要工作。选留美幼童时，唐国安代表外务部的意见，主张招收16岁以下的幼童，像他自己那样，从小送美培养，否则对外国语言绝无专精之望；学部则坚持招收30岁以上的学生，不然的话，“国学既乏根底，出洋实为耗费”。双方针锋相对，评阅考卷时，外务部所取的英文第一名，在学部一分未得；而学部所取的第一名，在外务部受同样的待遇，从这样极端可以看出，唐国安对旧式教育的失望和对美式教育的崇拜和向往，这一点从他主张撤销游美学务处，改组学堂，援用西学体例，实行校长负责制中也可以看出。
1909年9月，第一批留学生47名放洋，由唐国安亲自护送；1910年7月，第二批70名放洋；1911年6月，第三批63名放洋，唐国安另保送幼童生12名。这一放，放出了后来在学术界、教育界、实业界、法政界的专业精英、学术泰斗。其中尤为人称道的有：后来掌管清华大学的梅贻琦、曹云祥；掌管北京大学的蒋梦麟、胡适、马寅初；掌管浙江大学的竺可桢；掌管东南大学的邹秉文；掌管大同大学的胡敦复。他们继承了唐国安的遗志，为发展中国高等教育事业、推动留学教育工作，做出了重要贡献。
清末民初，当时的中国正处于一个大变动时期，而留美学童作为一个群体，在清末洋务运动中产生，为清王朝自我改良而培植的留学生群体，在这个变局中扮演了搅局者的角色，他们不是革命者，但他们给中国教育、文化、科技等方面带来革新，为新的历史时代埋下了火种。唐国安正是在这样一个变局之下，践行“教育救国”之梦的留美学童，成为倡导西式教育的先行者。
留学教育冲破了曾经闭塞保守和自满自大的旧思想，为以后形成留学制度开了个好头。一千多年来，中国一直接受别国学生留学，却没有派过学生出去留学。清朝时中国已经远远落后于西方，但由于闭关自守的风气和虚骄自大的心态，仍不肯向西方学习，以致向外留学一事长期不为社会重视。这种状况终于在洋务运动中开始改变。留学教育也促进了旧教育制度的改革和新教育制度的建立与发展。他们引进了西方的教育内容、教学方法、教育思想和教育制度，并且逐步被中国教育界接受或吸收，对改革传统教育制度和建立、发展新式教育制度产生了直接影响。
这是中国第一次官费的留学，开了中国近代留学风气的先河。发展了资本主义经济，对封建制度却进行了强烈的抨击。虽然他们抱着“中学为体，西学为用”的教育思想来培养留学生，但历史不是以个人意志转移的东西，大多数的留学生怀着一颗炽热的爱国之心，热切地希望祖国繁荣富强，摆脱外敌干扰，他们热衷于宣传资产阶级的思想。它在事实上提升了中国的科技和思想水平，培养了一批优秀的人才，在某些方面摆脱了依靠外国人的状况，为将来的发展开出了一条新的道路。在中国现代化的历程中，这是值得大书特书的一笔，毕竟中国人也能够走出去了，在重重阻力下艰难地迈出了第一步并且第一次把西学付诸于教学实践，具有积极的意义。虽然作用有限，但是对于中国近代化毕竟有着先驱的作用，这一点是不应该否定磨灭。