天圣元年（1023），范仲淹任兴化县令，总掌捍海大堤工程。五年后，长达150余里的捍海大堤，历经曲折坎坷，终于修成了。
海堤的修复，解决了沿海各州县百姓的海潮之患，保护了泰、海、通、楚四州数十万人民的生命财产和大面积的盐场粮田，召回了流亡在外的三千多户人家。从此，堤东产盐，堤西种田，民众安居乐业了，盐税与田赋收入也增加了。人民感念范仲淹，称捍海堤为“范公堤”，至今遗迹尚在。
天禧二年（1018），范仲淹由权集庆军节度推官改任谯郡从事。谯郡，即亳州，归集庆军节度。从事，为州郡长官的属官。在此期间，范仲淹结识了关心民间疾苦的杨日严。杨日严后任转运使多年，兴利除弊，甚为范仲淹敬佩。两人之间的友谊，“甚乎神交”。杨日严廉洁爱民的政风对范仲淹影响巨大，这是后话。
自幼立志愿为良相致君尧舜造福生民的范仲淹，任从事这年已经30岁，仍然担任于国计民生无关紧要的小官，面对着逐渐陷入危机境地的北宋王朝，自己难进一言，莫展一筹，真是焦急万分，忧心如焚。他处理完一段公务之后，便打点行装，漫游燕赵去了。
燕赵自古为中国北方边塞军事要地，多慷慨悲歌之士。可范仲淹这次漫游燕赵，非突发思古之幽情，亦非赏山乐水的闲情逸致，而是一次北方边境军备防御的实地考察私访。自后晋儿皇帝石敬瑭割让燕云十六州之后，中原北部的燕赵军事重地，门户洞开，无险可守，契丹铁骑可以轻易南下，饮马黄河，直逼京都，威胁中原。周世宗柴荣时，曾决定先南后北，统一全国，可他在北征契丹的军中突得暴病，赍志而没。宋太祖建立宋朝后，契丹族建立的辽政权成为北方劲敌。他两次进兵，攻打太原的北汉政权，都因为辽的出兵干预而失败，最终没有实现“一统太平”的目的。太宗即位以后，太平兴国四年（979）。
发动大规模北伐，御驾亲征，消灭了北汉，准备乘机攻辽，收复北方的燕云十六州失地。结果，在高粱河（北京大兴县东）被辽军打败，全军溃逃。辽骑兵追击紧迫，太宗的御用器物及嫔妃全部被掠去，他脱身逃走，大腿上中了两箭，此后每年箭伤都要复发。982年，12岁的耶律隆绪即位，辽政权由其母萧太后控制。太宗认为“主幼国疑”，有机可乘，便于雍熙三年（986），分兵三路，大举伐辽。结果，宋军又遭惨败，损失巨大。996年，太宗箭伤又发，立太子，翌年三月病亡。辽军从此步步进逼，不断派兵南下掳掠，北宋无可奈何，只得采取守势。景德元年（1004），萧太后调动二十万大军南下，采取避实击虚的战术，绕过宋军坚守的城池，终于深入到靠近黄河的澶州（今河南濮阳），正面威胁着汴京开封，北宋君臣陷入一片恐慌。一个参知政事主张迁都金陵，一个参知政事主张南迁成都，唯有新任丞相寇准等少数人主张坚决抵抗，并要求宋真宗御驾亲征，凝聚人心，鼓舞士气。宋真宗犹疑不决，寇准言：“今敌骑迫近，四方危心，陛下只可进尺，不可退寸。”宋真宗勉强到达澶州。此时，军民集中到几十万人。恰巧，辽军先锋重要将领被宋军射死城下，辽军士气严重受挫。加之孤军深入，补给困难，处境不利，主动要求议和。这下恰巧迎合了宋真宗的愿望，虽然有寇准的反对，还是达成宋辽和议。北宋每年向辽输银10万两，绢20万匹，历史上称为“澶渊之盟”。宋真宗御用文人记事录留下景德元年十二月十九日“北征凯旋”四字。后来范仲淹曾评述说：寇莱公澶州之役，而能左右天子不动如山，天下谓之大忠。
“澶渊之盟”带来了北宋与辽相对稳定的局面，并在易州、雄州、霸州、沧州等地设置榷场，进行边境贸易。十几年过去了，承平日久，北宋与辽边境的军备松弛，隐患也日趋严重，引起了以天下为己任的仁人志士的深切忧虑，范仲淹便是其中最典型的代表人物。
赵匡胤陈桥兵变黄袍加身以后，为消除唐朝安史之乱以来藩镇拥兵自重的弊端，矫枉过正，实行了一系列削藩措施，杯酒释兵权，让武将功臣高薪无权。设枢密院，为最高军事机关，管军队调动；由三衙管军事训练；将领则由皇帝临时指定，实行彻底分权，兵不知将，将不知兵，削弱了军队的战斗力。兵员实行募兵制，大灾之年择灾民、罪犯为兵，60岁退役，在军中30至40年，这样的兵根本不能打仗。怎么办？不断招募，到仁宗时，兵卒已有开国之初的20万到了120万，军费开支已占收入的六分之五，形成了严重的“冗兵”问题。
范仲淹到燕赵宋辽边境，将边疆民众的生产生活状况、将帅与士兵的军事素养状况、军事设施状况等等，都一一考察得明明白白，了然在胸。漫游结束，万千感慨，一腔激愤，化成了一首抒发心志的《河朔吟》：
太平燕赵许闲游，三十从知壮士羞。
敢话诗书为上将，犹怜仁义对诸侯。
子房帷幄方无事，李牧耕桑合有秋。
民得袴襦兵得帅，御戎何必问严尤。
太平燕赵，燕赵非太平也。这哪里是闲游？面对危机日深的宋辽边境，自己年已30，还是个“从知”的小官，满怀报国之诚、益民之心的壮士，现在唯有一个“羞”字！朝野上下需要明白：只有满腹诗书、践行仁义的人才能成为真正的上将，才能真正懂得如何防守边疆，协和万邦，造福于生民。范仲淹此时的心目中，以谁自况，以谁自许，以谁为偶像呢？那就是“汉初三杰”之一的张良。张良是深明韬略、文武兼备、足智多谋的“智囊”。为报家国之仇灭秦，为刘邦夺取天下，在秦汉之际历史舞台上导演了一幕幕光彩夺目的剧目，成为运筹帷幄之中、决胜千里之外的风云人物。李牧是战国名将之一，他是赵国人。他一生活动分为两个阶段：一是前期在赵国北部边境，抗击匈奴；二是后期在朝中参与政治军事活动。终其一生，主要是作为武将活跃在战国时期的历史舞台上。约在赵惠文王时期，李牧守边雁门郡，抗击抵御匈奴入侵。根据实战需要，设官吏僚属，课税由幕府掌握为军费；厚待士卒，每天宰牛犒赏士卒；天天教练士卒骑射技术，提高战斗力；严格防守，坚固城池，挑选人员侦探敌情，随时发出报警信号。与军民约定：一旦匈奴入侵，未得出击命令，一律速将人马物资全部退入堡垒固守，不得出战，违令者斩。坚持数年，军队无一伤亡，民众照常耕田织布，无丝毫损失，军队却形成了一只装备精良、素质极高的边防军。匈奴以为李牧胆怯，赵国军中也有人如是说。赵王听信传言，责备李牧。李牧不理睬，激怒早王，另派人代替了李牧。新将领连连出兵，连连失利，损失惨重。边民不能正常耕种放牧。赵王只好再请李牧出守，李牧坚称有病不受。赵王再三聘请，李牧云：“王必用臣，必如前，乃敢奉命。”赵王应允，李牧一如既往，仍采取“坚壁清野”之策，使匈奴数年一无所得。军卒长期得到厚养而未能效力，纷纷要求一战。李牧精选战车1200乘，精骑13000匹，勇士5万人，射手10万人，演练战术。放纵边民放牧，引诱敌人。匈奴小股入侵，李牧命令佯败而走，让匈奴占点小便宜。匈奴单于组织大军入侵，李牧设奇阵，诱敌深入，两侧包抄，歼敌十余万，单于落荒而逃。尔后十几年，匈奴不敢接近赵境。李牧后期入朝后，打破秦军，封武安君。秦再次攻赵，李牧又破秦军。后来秦施离间计，李牧被害。赵王自毁长城，赵国终于灭亡。
范仲淹认为，如今的赵宋王朝，正需要张良、李牧这样的能臣良将。民众有了能臣，就会丰衣足食；军队有了良将，就会固若金汤。如何防御北方游牧民族入侵，也就不必询问王莽时期的大司马严尤。王莽执政时，曾调集三十万军队、三百日军粮，彻底扫荡匈奴。当时严尤多次上书劝谏不可行。王莽一意孤行，最终以乱局失败告终。很显然，张良、李牧是自己心目中的理想偶像，并以此自许。20多年后，范仲淹担任守边将帅的光辉业绩，也确实验证了《河朔吟》中的自况自许。
天禧二年秋八月，范仲淹呈进《皇储资圣颂》，陈述自己的政治理想与主张，开始探寻治国平天下的仕进之路。