1924年4月，《益世报》总编辑成舍我创办《世界晚报》，约请张恨水主编一版副刊并为该报创作连载小说。从1924年到1929年，张恨水用5年时间完成《春明外史》。小说写旅居北京的皖中世家子弟杨杏园既是清白正直的“报人”，义是风流自赏的“才子”，是一个与作者有点神似的具有“双重人格”的“维新少年”。他钟情于妓馆清倌人何梨云，梨云病逝后又转而倾慕巨室庶出的零落女子李冬青。两人互相钦佩对方的文采风流，常有诗文酬答，但当杨杏园提出求婚时，李因患有先天暗疾而无缘婚姻。她离京南归，想让贫寒的女友史科莲填补这个爱情的缺口，史误以为自己妨碍了杨、李缔婚，遂只身飘荡江湖。最后，杨杏园在“偏是这梨云女士，黄土垄中，女儿命薄；而冬青女士，又是茜纱窗下，学士无缘”的凄凉气氛中，咯血身亡。这篇长达90万字的章回体白话小说，尽管仍然有着浓厚的“鸳蝴”气息，不乏才子倡门的“民国旧派小说”的惯用套路，但是，张恨水已经认识到传统意义上的言情小说正在走向末流，社会的黑暗、政治的腐败，促使他在原有的基础上寻求新的文学表现方式。他从晚清民初的谴责小说、社会小说吸取讽刺的力量和社会批判技巧，并将之融入言情小说的整体框架之中，从而进一步发展了何海鸣、毕倚虹以来旧派通俗小说反映社会生活的深度和广度，成为轰动一时的通俗小说大家。《春明外史》问世以后，在北平影响很大，甚至出现读者排长队争购报纸的盛况。
1925年2月，成舍我创办《世界日报》，张恨水应邀主编副刊《明珠》，并在《明珠》上连载《新斩鬼传》，但影响有限。之后，他发表了为他赢得极大声誉的《金粉世家》，才正式进入到创作的高峰期。
如果说《春明外史》在结构上的涣散是由于故事的铺展面十分广阔，来不及对社会生活做深入细致的揭示，那么《金粉世家》则克服了这些技术上的不足。作者把叙述视角缩小到“家”中，故事的维度也不再是线性的、平面的，而是借鉴了《红楼梦》的叙事策略，让金家内外的众多人物交织出多维互动的立体化结构空间。小说以国务总理金铨一家的日常生活为重心，借主人公金家七少爷燕西与贫家女子冷清秋的爱情悲剧，展现了一个豪门的没落和民国初年广阔的中国社会生活场景。言情仍然是《金粉世家》的情节推动力。与“鸳蝴派”言情小说不同。张恨水写情不是将男女之情作不食人间烟火的纯净化处理，而是把爱情放置在复杂的社会综合环境中，既展示爱情的本身，又表现出各种社会因素对它施加的影响，因而往往更贴近市民生活，对社会空间的描绘也更为开阔。《金粉世家》集中叙述了金燕西与冷清秋、白秀珠之间的感情纠葛。燕西与冷清秋的关系一开始就带有明显的世俗性，这是作者对旧派言情小说的一个突破。燕西带着明确的逐色目的追求冷清秋，他不是靠情感的投入，而是凭借“利”的攻势来赢得清秋和冷家的欢心。清秋初涉情事，毫无经验，被燕西的表面殷勤所蒙蔽，半推半就地陷入燕西的感情陷阱。等到嫁入金家，成了世俗家庭中的一个成员之后，她的单纯的感情开始受到多重的冲击：燕西移情别恋；大家庭复杂的人际关系；世俗生活的单调和冷漠等等。这些精神上的痛苦都是单纯幼稚的清秋无法克服的，她特别需要丈夫的帮助和支持。然而燕西并不能理解她的痛苦，也没有这份责任感，他开始感到厌倦，转而去追逐新的猎物。冷清秋生活在金家如同置身于牢狱之中，她不愿同妯娌们一样争权夺利，也不想同流合污，很难为金家所容，于是退缩到自己的小天地中，完全与金家疏离隔绝起来。金铨病故之后，金家失去了权力保障，燕西这个没有生存竞争力的纨绔子弟为寻找新的依靠，又去追求昔日恋人白秀珠。白秀珠出于报复，百般折磨他。金燕西最终成了一个不顾人格的世俗末路鬼。金燕西、冷清秋的爱情悲剧是小说的主线，也是金家命运演化的重要线索。家庭背景为言情故事提供了必要的世俗环境，家族命运操纵着人物的感情命运。
《金粉世家》借助国务总理家庭这个舞台来展现社会的真实面目，揭示人生的冷和热。张恨水不再像《春明外史》那样把视点播撒到社会的浮面，浮光掠影地搜罗社会新闻、名人逸事，以满足世人的好奇心理，而是撇开社会的表面干扰。沉人生活的底层，通过人物、家庭的命运，思考人生的终极性命题。《金粉世家》是张恨水社会言情小说成熟的标志，在这里，作者的写实功力充分显示出来，对社会人生丰富细腻的体验和驾驭长篇叙事作品的技巧都显得十分纯熟。通俗小说家、张恨水多年的老朋友张友鸾曾经设想，《金粉世家》“如果不是章回小说。而是用现代语法，它就是《家》；如果不是小说，而是写成戏剧，它就是《雷雨》。”这样的评价自然有它的合理性，但也提出一个问题，作为通俗小说的《金粉世家》是否与《家》《雷雨》具有相当的审美价值？从艺术上讲或许可以做出这样的判断，但通俗小说的旨趣和视野，又不能不在一定程度上制约了作者的思想认识水平。张恨水把冷清秋与金燕西的爱情悲剧归因于“齐大非偶”，就说明了他在对社会本质的认识和把握上，还是从世俗的、市民化的道德伦理立场来做判断。在这一点上说，《金粉世家》是不能与《家》和《雷雨》相比的。
1929年，张恨水应上海《新闻报》副刊《快活林》主编严独鹤之邀，撰写长篇小说《啼笑因缘》。该小说在该报刊出，再次引起轰动，张恨水名声从此遍布大江南北。
《啼笑因缘》是张恨水的另一部重要代表作。小说采取了与《金粉世家》不同的写作策略，有意偏移了以往对政治背景、社会时局的关注，转而追求言情故事的曲折细腻和地域风情的勾画，体现了张恨水清醒的文化市场意识。他深知作为通俗文学大本营的上海，对通俗文学有着敏锐的鉴赏力。上海是中国最大的通商口岸、国际性的大都市，商业文化气息浓厚，这与北京的官方文化有着质的区别：“北平近官，人们对官场风云的关注，社会黑幕的兴致很大，而南方近商，讲究通俗文化的娱乐性趣味性。”张恨水敏锐地把握到海派文化市场的两种娱乐趣味，“肉感的”和“武侠而神怪的”，并针对这种趣味，在写作上做出相应的调整：言情故事曲折多变，再加上一些“武侠”传奇，与作者擅长的社会描写一起，构成三位一体的文化拼盘。