1866年，北京同文馆增设天文算学馆，聘李善兰为第一位数学教习。由于清廷政治腐败，数学发展十分缓慢。反观日本，则是后来居上。日本在1870年代还向中国学习算学，《代微积拾级》是当时日本所能找到的最好的微积分著作。但到1894年的甲午战争之后，中日数学实力发生逆转。1898年，中国向日本大量派遣留学生，其中也包括数学方面的留学生。
1911年辛亥革命之前，有三位留学国外的数学家最负盛名。第一位是冯祖荀，浙江杭县人。1904年去日本京都第一高等学校就读，然后升入京都帝国大学研修数学。回国后曾在北京大学长期担任数学系系主任。第二位是秦汾，江苏嘉定人。1907年和1909年在哈佛大学获学士和硕士学位。回国后写过许多数学教材。担任北京大学理科学长及东南大学校长之后，弃学从政，任过财政部次长等。郑桐荪在美国康奈尔大学获学士学位，以后在创建清华大学数学系时颇有贡献。
由于1908年美国退回部分庚子赔款，用于青年学生到美国学习。因此，中国最早的数学博士多在美国获得。胡明复于1917年以论文“具边界条件的线性微积分方程”，在哈佛大学获博士学位，是中国以现代数学研究获博士学位的第一人。他返国后办大同大学，参与《科学》杂志的编辑，很有声望，惜因溺水早逝。1918年，姜立夫亦在哈佛大学获博士学位，专长几何。他回国后办南开大学，人才辈出，如陈省身、江泽涵、吴大任等，姜立夫是中国现代数学的先驱，曾任中央研究院数学研究所首任所长。
20世纪20年代，中国各地的大学纷纷创办数学系。自国外留学回来的数学家担任教授，开始培养中国自己的现代数学人才。其中比较著名的有熊庆来，1913年赴法国学采矿，后改攻数学。1921年回国后在东南大学、清华大学等校任数学教授，声誉卓著。1931年再度去法国留学，获博士学位，以研究无穷级整函数与亚纯函数而闻名于世。
陈建功和苏步青先后毕业于日本东北帝国大学数学系。他们分别于1930年和1931年回国，在浙江大学担任数学教授。由于锐意进取，培植青年，使浙江大学成为我国南方最重要的数学中心。陈建功以研究三角函数论、单叶函数论及函数逼近论著称。他在1928年发表的《关于具有绝对收敛傅里叶级数的函数类》，指出：有绝对收敛三角级数的函数的充要条件是杨氏函数，此结果与英国数学大家哈代和李特尔伍德同时得到。这可以标志中国数学研究的论文已能达到国际水平。苏步青以研究射影微分几何而著称于世。他的一系列著作《射影曲线概论》《一般空间微分几何》、《射影曲面概论》等，在国内外都产生相当影响，曾被称为中国的微分几何学派。1952年，他们从浙江大学转到上海复旦大学，使复旦大学数学系成为中国现代数学的重要基地。
1930年前后，清华大学数学系居于中国数学发展的中心地位。系主任是熊庆来，郑桐荪是资深教授。另外两位教授都在1928年毕业于美国芝加哥大学数学系，获博士学位。其中孙光远专长微分几何，他招收了中国的第一名数学硕士生(陈省身)，杨武之则专长代数和数论，以研究华林问题著称。这时的清华，有两个杰出的青年学者，这就是来自南开大学的陈省身和自学成才的华罗庚。陈身省于1911年生于浙江嘉兴。1926年入南开大学，1930年毕业后转到清华，翌年成为孙光远的研究生，专习微分几何。1934年去汉堡大学，在布拉士开指导下获博士学位，旋去巴黎，在嘉当处进行访问，得其精华。1937年回国后在西南联大任教。抗日战争时期，受外尔之邀到美国普林斯顿高等研究院从事研究，以解决高维的高斯——邦内公式，提出后来被称为“陈省身类”的重要不变量，为整体微分几何奠定基础，其影响遍及整个数学。抗日战争结束后返国，任中央研究院数学研究所代理所长，培植青年数学家。1949年去美国。1983年获世界5高数学奖之一的沃尔夫奖。
华罗庚是传奇式的数学家。他自学成才，1929年他只是江苏金坛中学的一名职员，却发表了《苏家驹之代数的五次方程解法不能成立之理由》，此文引起清华大学数学教授们的注意，系主任熊庆来遂聘他到清华任数学系的文书，华罗庚最初随杨武之学习数论，在华林问题上很快作出了成果，破例被聘为教员。1936年去英国剑桥大学，接受哈代的指导。抗日战争时期，华罗庚写成《堆垒素数论》，系统地总结、发展与改进了哈代与李特尔伍德的圆法，维诺格拉多夫的三角和估计方法，以及他本人的方法。发表至今已几十年，主要结果仍居世界领先地位，仍是一部世界数学名著。战后曾去美国。1950年返回中国，担任中国科学院数学研究所的所长。他在数论，代数，矩阵几何，多复变函数论以及普及数学上的成就，使他成为世界级的著名数学家。他的名字在中国更是家喻户晓，成为“聪敏”、“勤奋”的同义语。
20世纪30年代初的清华大学，汇集了许多优秀的青年学者。在数学系先后就读的有柯召，许宝騄，段学复，徐贤修，以及物理系毕业、研究应用数学的林家翘等等，后来均成为中国数学的中坚以及世界著名数学家。
许宝騄是中国早期从事数理统计和概率论研究，并达到世界先进水平的一位杰出学者。1938～1945年间，他在多元分析与统计推断方面发表了一系列论文，以出色的矩阵变换技巧，推进了矩阵论在数理统计中的应用，他对高斯——马尔可夫模型中方差的最优估计的研究，是许多研究工作的出发点。20世纪50年代以来，为培养新中国的数理统计学者和开展概率统计研究作出许多贡献。
林家翘是应用数学家，清华大学毕业后去加拿大，美国留学。从师流体力学大师冯·卡门。1944年，他成功地解决了争论多年的平行平板间的流动稳定性问题，发展了微分方程渐近理论的研究。20世纪60年代开始，研究螺旋星系的密度波理论，解释了许多天文现象。
北京大学是我国的最高学府。20年代军阀混战时期，因经费严重不足，学术水平不及由美国退回庚款资助的清华大学数学系。进入30年代，以美国退回庚款为基础的中华文化教育基金会也拨款资助北京大学，更由于江泽涵在哈佛大学获博士学位后加盟北大，程毓淮获德国哥廷根大学博士学位后来北大任教，阵容渐强。学生中有后来成名的樊畿，王湘浩等。
20世纪30年代的中国青年数学家还有曾炯之，他在哥廷根大学跟随杰出的女数学家诺特研究代数，1933年完成关于“函数域上可除代数”的两个基本定理，后又建立了拟代数封闭域层次论，蜚声中外。抗日战争时期因贫病在西昌去世。周炜良为清末民初数学家周达之子，家庭富有，在美国芝加哥大学毕业后，转到德国莱比锡大学，在范·德·瓦尔登指导下研究代数几何，于1936年获博士学位，一系列以他名字命名的“周坐标”“周形式”“周定理”“周引理”，使他享有盛誉。抗日战争胜利后去美国约翰·霍普金斯大学任教，直至退休。
1935年，中国数学会在上海成立。公推胡敦复为首届董事会主席。会上议决出版两种杂志。一种是发表学术论文的《中国数学会学报》，后来发展成今日的《数学学报》，一种是普及性的《数学杂志》，相当于今之《数学通报》。中国数学会的成立，标志中国现代数学已经建立，并将很快走向成熟。
最早访问中国的著名数学家是罗素，他于1920年8月到达上海，在全国各地讲演数理逻辑，由赵元任做翻译，于次年7月离去。法国数学家班勒卫和波莱尔也在20年代未以政治家身份访华。1932年，德国几何学家布拉希开到北京大学讲学，陈省身、吴大任等受益很多。1932——1934年间，汉堡大学年轻的拓扑学家斯披涅儿也在北京大学讲课。1934年4月，美国著名的常微分方程和动力系统专家伯克霍夫也到过北大。此后来华的是美国哈佛大学教授奥斯古德，他在北京大学讲授函数论。
控制论创始人，美国数学家维纳来清华大学电机系访问，与李郁荣合作研究电网络，同时在数学系讲授傅里叶变换理论等。维纳于1936年去挪威奥斯陆参加国际数学家大会，注明他是清华大学的代表。
抗日战争开始之后，中国现代数学发展进入一个新时期。一方面是异常清苦的战时生活，与外界隔绝的学术环境；另一方面则是无比高涨的研究热情，硕果累累的科学成就。在西南联合大学(北大、清华、南开)的数学系，姜立夫、杨武之、江泽涵等领导人正值中年，而刚满30岁的年轻教授如华罗庚、陈省身以及许宝騄等，都已达到当时世界的先进水平。例如华罗庚的《堆垒素数论》，陈省身证明高斯——邦内公式，许宝騄发展矩阵论在数理统计的应用，都产生于这一时期。他们培养的学生，如王宪钟、严志达、吴光磊、王浩、钟开莱，日后都成为著名数学家。与此同时，位于贵州湄潭的浙江大学，也由陈建功、苏步青带领，造就出程民德、熊全治、白正国、杨忠道等一代数学学者。如果说，在20世纪20年代，中国创办的大学已能培养自己的数学学士，那么在30年代的北大、清华、浙大等名校，已能培养自己的数学硕士，而到抗日战争时期的40年代，从教员的学术水准，开设的课程以及学生的成绩来看，应该说完全能培养自己的数学博士了。从1917年中国人第一次获得数学博士，到实际上具备培养自己的数学博士的水平，前后不过20余年的时间，发展不可谓不快。
1944年，中央研究院决定成立数学研究所，由姜立夫任筹备主任。不久，抗日战争胜利，于1946年在上海正式成立数学研究所，由姜立夫任所长。因姜立夫出国考察，遂由陈省身代理所长。陈省身办所的宗旨是培养青年人，首先让他们研修拓扑学，以便迅速达到当时数学发展的前沿。这时在所内工作的研究人员中，有王宪钟、胡世桢、李华宗等已获博士学位的年轻数学家，更有吴文俊、廖山涛、陈国才、杨忠道、叶彦谦、曹锡华、张素诚、孙以丰、路见可、陈杰等刚从大学毕业不久的学生。
1949年成立中华人民共和国之后，中国现代数学有了长足的发展。原来已有建树的解析数论、三角级数论、射影微分几何等学科继续发展。在全面学习前苏联的20世纪50年代，与国民经济发展有密切关系的微分方程、概率论、计算数学等学科获得应有的重视，使整个数学获得全面和均衡地进步。高等学校数学系大规模招生，严谨的教学方式培养出大批训练有素的数学工作者。
在这一时期内，作出重要贡献的有吴文俊。他于1940年在交通大学毕业，后去法国留学，获博士学位。他在拓扑学方面的主要贡献有关于施蒂费尔·惠特尼示性类的吴(文俊)公式，吴(文俊)示性类，以及关于示嵌类的研究。20世纪70年代起，吴文俊提出了使数学机械化的纲领，其一个自然的应用是定理的机器证明，这项工作现在正处于急剧发展中。吴文俊的数学机械化思想来源于中国传统数学。因此，吴文俊的工作显示出中国古算法与现代数学的有机结合，具有浓烈的中国特色。
20世纪50年代以来的一些青年数学家的工作值得注意，如陈景润、王元、潘承洞在数论方面的研究，特别是对哥德巴赫猜想的重大推进。杨乐、张广厚关于亚纯函数值分布论的研究，谷超豪在微分几何与非线性偏微分方程方面的研究，夏道行关于线性算子谱论和无限维空间上调和分析的研究，陆启铿、钟家庆在多复变函数论与微分几何方面的研究，都有国际水平的成果。80年代以来，还有姜伯驹(不动点理论)、张恭庆(临界点理论)、陆家羲(斯坦纳三元素)等人的工作，十分优秀。廖山涛在微分动力系统研究上作出了独特的贡献。
中国数学家参加国际数学家大会始自1932年。北京数学物理学会的熊庆来和上海交通大学的许国保作为中国代表参加了那年在苏黎世举行的会议。中山大学的刘俊贤则是参加1936年奥斯陆会议的唯一中国代表(不计算维纳代表清华大学与会)。此后由于代表权问题，中国内地一直未派人与会。华罗庚、陈景润收到过到大会作报告的邀请。1983年，中国科学院计算数学家冯康被邀在华沙大会上作45分钟的报告，都因代表权问题未能出席。
1986年，中国在国际数学家联盟的代表权问题得到解决：中国数学会有三票投票权，位于中国台北的数学会有两票投票权。这年在美国加州伯克莱举行的大会上，吴文俊作了45钟报告(关于中国数学史)。1990年在东京举行国际数学家大会，中国有65名代表与会(不包括台北)。
20世纪80年代以来，中国数学研究发展很快。从原来的中国科学院数学研究所又分立出应用数学研究所和系统科学研究所。由陈省身担任所长的南开数学研究所向全国开放，发挥了独特的作用。北京大学、复旦大学等著名学府也成立了数学研究所。这些研究机构的数学研究成果正在逐渐接近国际水平。到1988年为止，在国外出版的中国数学家的数学著作已有43种。《数学年刊》《数学学报》都相继出版了英文版，在国外的影响日增，1990年收入世界数学家名录的中国学者有927名。先后在中国国内设立的数学最高奖有陈省身奖和华罗庚奖。1990年起，为了支持数学家率先赶上世界先进水平的共同愿望，除了正常的自然科学基金项目之外，又增设了专项的天元数学基金。这一措施也大大促进了数学研究水平的提高。
在中国的台湾省，中央研究院的数学研究所是主要的数学研究机构，曾由周鸿经、樊畿等多人主持过。台湾大学集中了许多著名的数学教授。早期有施拱星、许振荣等。台湾学生在美国获博士学位并在美国各大学数学系任教的学者很多，有较大影响的有项武忠、项武义等人。
香港地区的数学教育在第二次世界大战之前没有多少力量。战后最有影响的是几何学家黄用诹，他从1948年起任香港大学教授，又担任过教务长和副校长。从香港大学和中文大学培养出一批有世界影响的数学家，其中包括荣获菲尔兹奖的丘成桐，以及肖荫堂、陈绍远等著名数学家。