徐光启的建议起初并没受到应有重视。后来因辽东危急，京城的安全也受到严重的威胁，众臣纷纷推举，万历帝才于1619年（万历四十七年）9月颁旨：“徐光启晓畅兵事，就着训练新兵，防御都城。”寻升徐光启为詹事府少詹事，兼河南道监察御史，管理练兵事务。徐光启受领新职后，满怀信心，于10月 21日上《恭承新命谨陈急切事宜疏》，条陈有关练兵事项，包括关防、驻扎、副贰、将领、待士、选练、军资、召募、征求、助义等十款，希望能在财政和人员方面得到朝廷的支持。他曾设想挑选壮兵丁二万人，在京营附近建筑营房二千间，由工部和户部各自支付兵器和粮饷费用若干，一面造器，一面练兵，一年之后这支部队便可以投入使用。不料他处处受朝中权臣牵制，要人没人，要钱没钱，计划虽好却难以实施。
1620年（泰昌元年）4月，徐光启费尽周折才领到一点饷械，便风尘仆仆赶到通州、昌平，着手进行选练新兵的工作。当时供徐光启训练的新兵半杂老弱，身无完衣，面有饥色，他下决心裁汰老弱，只保留了一部分精壮兵丁，结合实战阵法进行操练。但是由于万历、泰昌两帝一年之内相继驾崩，加上饷械不继，缺少兵源，徐光启的练兵工作遇到很大困难。1621 年（天启元年）2月，他旧疾复发，再回天津养疴。不久因沈阳、辽阳接连失守，礼部奏请襄理军务，又奉旨返京。
还在昌平、通州练兵时，徐光启曾经致信李之藻，要他前往澳门购置西方火器。李之藻派门人张焘赴澳门，向葡萄牙当局购买了四门大炮，并物色到炮手四人。时值徐光启辞职，李之藻恐大炮落入敌手，留在江西不再北运。徐光启复职后，重抄了练兵三疏进呈，请求恢复练兵计划，并把制造火器放在首位。他看到，明朝军队原先在火器上的优势，因为连战皆输，大量兵器被敌军俘获，已经转化成为劣势，只有大量铸造火炮才能改变这种不利的态势。他一边把留在江西的大炮运到前线，一边力请多铸西洋火炮，以资城守。他还推荐传教士阳玛诺、毕方济堪任此事，请速访求前来。然而好景不长，复职仅四个月，徐光启又受到阉党的攻讦，眼见练兵计划付诸东流，他愤然辞职，回到上海搞他的农学试验。
徐光启的练兵虽因层层阻挠而告失败，但也产生一些积极的效果。经过他训练的新兵在辽东战场作战，显示了顽强的战斗力，远比一般的明朝军队出色。他引进的西方大炮在宁远战役中发挥了巨大的威力，其中的一门被天启皇帝封为“安国全军平辽靖虏大将军”。在练兵过程中，徐光启还留下了二十四篇《练兵疏稿》和《选练条格》一卷。《选练条格》共分选士、选艺、束伍、形名、营阵五章，在募选、训练、指挥、战法等方面都提出了一些重要思想。如关于选拔士兵，他提出“以勇、力、捷、技四者取之”。他特别强调军队要有严明的纪律，行动要一致，“如擂鼓要进，就赴汤蹈火也要进；鸣金要退，后面有水火也要退。
众人共一耳，共一目，共一心，此齐众之一法，阵无有不坚，敌无有不破矣”。后来，徐光启把他有关军事问题的疏稿汇刻为《徐氏庖言》五卷，这是他留给传统兵学的一份宝贵财富。
时隔八载，徐光启再度投笔从戎。这时崇祯皇帝已经即位，惩治权阉魏忠贤，剪除了阉党势力。崇祯力图刷新政治，任用贤能，恢复了徐光启礼部右侍郎兼翰林院侍读学士协理詹事府事的原职。其实此职是徐光启辞官闲住时由魏忠贤之流封的，他并没有到任。1628年（崇祯元年）8月，徐光启束装就道，由上海到北京，觐见崇祯。次年4月升任礼部左侍郎，主持礼部日常事务。9月他又受命督修新历。正当徐光启全力以赴地筹划历局事宜时，后金军队由皇太极率领挥师入关，围困蓟州，攻陷遵化、抚宁，威逼京师。1629年（崇祯二年）12月，后金兵攻入太安口，京师宣布戒严。半月后后金兵已攻至北京德胜门。兵临城下，势如垒卵，崇祯急忙召集群臣，商讨退敌计策。徐光启在召对中力主守城，得到皇帝的首肯。徐光启随即放下历局工作，以主要精力从事火器制造和保卫京师的斗争。
年近古稀的徐光启，满怀爱国之情，日夜在城防上奔波，教练军士，布置防务，饥渴俱忘，风雨不避。他制定的《城守条议》，就守卫京师作出了具体规划。《条议》提出，应当动员广大市民投入保卫京师的斗争。城中并不缺乏智勇奇士，应广泛收求加以录用。不论是勇力绝伦的，武艺出众的，善用火器的，能造守城器械的，都可由京官保任。对于市民提出的有关城防的意见，不拘尊卑，每天由负责官员议定，可行的便通知各处遵照执行。如吏部主事杨伸有名家人善用石炮，徐光启提议任命他为教师，教守城军民制作炮架，临时施用。
这些事实反映了徐光启的军事民主思想。正是因为徐光启采取了行之有效的举措，森严壁垒，严阵以待，才使得后金军队最终不敢进攻北京。
后金军队退去后，徐光启建议利用这段间隙，立即赶造火炮和加紧选练守城士兵，进一步巩固京师的防务。他指出，后金军之所以不攻京师，不攻涿州，就是因为畏惧火器的威力。这种当时最先进的新式武器，物料真，制作巧，药性猛，射程远，精度高。他筹划在北京设立一个小兵工厂，并建议在扬州、潞安开局铸炮。徐光启听到传教士陆若汉、公沙的西劳提议去澳门购炮和遴选铳师，极为赞赏，表示愿亲自前往。光有火器并没解决所有的问题，还必须有能熟练使用火器的军队。为此他提出一套组建和训练车营的办法。所谓车营，就是组成一支三五千人装备火器的队伍。这支队伍不但能守卫城垣，而且能出城作战。以此为基础，把习铳的军队扩大到二三万人，一半在城中训练，一半在城外巡守。制定训练计划要严格，办法要切实，“宁为过求，不为冒险；宁为摭实，无敢凿空”。1631年（崇祯四年）11月，徐光启又上书皇帝，提出一个他精心设计的精兵方案。这个方案的要点是，以六万人编为十五营，每营四千人，配备双轮车一百二十辆，炮车一百二十辆，粮车六十辆，另配西洋大炮十六门，中炮八十门，鹰铳一百门，鸟铳一千二百门。他请求以登莱巡抚孙元化的部队为基干，先组成一营，然后逐步扩展。练成四五营，则不忧关内；练成十营，则不忧关；十五营俱就，则不忧进取。可是两个月后，后金兵进攻关外大凌河，孙元化派部将孔有德增援，孔有德在吴桥发动兵变，西洋火器悉数落入孔有德之手，不久孔有德又带着这些武器投降了后金，致使徐光启的计划完全破灭。自此以后徐光启心灰意冷，再也不言兵事。
徐光启的军事思想中包括了许多有价值的见解。如他重视民众的作用，主张动员民众参加军事斗争；他注重提高军队的战斗力，主张严加选练；他认识到武器是克敌制胜的重要因素，倡议引进西洋火器；他反对平分兵力，主张集中优势兵力歼敌一路，等等。但他的军事实践却是失败的，具体的表现就是练兵计划的屡次落空。其根本的原因是晚明政治腐败，经济凋蔽。一方面是国力衰弱无力支付巨大的练兵制器费用，一方面是权奸当道，百般刁难，处处掣肘，单靠徐光启一人的苦心经营是无法挽回明王朝的颓势的。
精研天文，督修新历
在守城制器的前后，徐光启还领导了修改历法的工作。天文历算在我国有悠久的历史和辉煌的成就。十三四世纪欧洲的儒略历出现严重失误的时候，我国元代科学家郭守敬便制定了《授时历》，把中国历法提高到更加准确的程度。明代的《大统历》就是直接承袭《授时历》的。但是由于长期没有修订，到明晚期，《大统历》也多次发生显著的失误。
徐光启很早便潜心学习和研究天文学。天文学曾是徐光启学习西学的重要内容之一，入翰林院后，仍花了很大气力从事天文学的研究，他先后写了《山海舆地图经解》、《题万国二寰图序》、《平浑图说》、《日晷图说》、《夜晷图说》、《简平仪说》等著作。这说明徐光启不但对西方天文仪器的构造、原理、用途有了充分的知识，甚至对西方测天的方法和理论，也进行了深入的研究。徐光启在当时的天文学界已有较高的声誉，所以礼部在1612年（万历四十年）1月奏请修改历法时，他便以“精心历理”与邢云路、范守己、李之藻等同时受到举荐。因万历帝久居深宫，疏于政务，此议被搁置下来。然而，徐光启并未放弃修改历法的努力，继续进行各方面的准备，如物色培养天文学人才，翻译西方天文学著作等等。
机会终于来了。1629年6月21日（崇祯二年五月朔）日食，钦天监预推失误，而徐光启用西法推测食分时刻却被验证。崇祯严辞切责钦天监官员。在这种情况下，礼部奏请开设历局，修改明初开始推行的《大统历》。9月1日，崇祯皇帝正式下令修历，并命徐光启督领修历事务，李之藻协理修历。历局设在宣武门内原首善书院。9月13日，徐光启上《条议历法修正岁差疏》，提出修改历法的步骤和方法，急需的仪器及人员的调配等。这份文献实际上成为修历工作的纲领。后来他提出的“欲求超性，必先会通；会通之前，必先翻译”，则成为贯穿整个修历过程的指导思想。
按照徐光启的计划，修改历法应当以西法为基础。其中固然有西法运算周密，在推算上确实优于旧法的科学本身的原因，也有旧法创制已久，法理难明，而西法经传教士广为宣传造就了一批通晓天文历算的人才这种客观上的原因。徐光启把翻译西方天文学著作当作修历的第一个必须的步骤。那时传到中国的西方天文学著作虽然卷帙浩繁，如1620年传教士金尼阁携来的七千部书籍中，相当一部分是天文学著作。盲目翻译需耗费大量的人力物力，且旷日持久，显然不行。徐光启又有针对性的提出，要有选择地组织翻译，要区别轻重缓急，首先选译那些最基本的东西，循序渐进。在内容上要包括欧洲天文学的理论、计算和测算方法、测量仪器、数学基础知识以及天文表、辅助用表等的介绍、编算等。徐光启本人也积极投入了翻译工作，他参预编译的著作就有《测天约说》、《大测》、《元史揆日订讹》、《通率立成表》、《散表》、《历指》、《测量全义》、《北例规解》、《日躔表》等。
作为修历的组织者和领导者，徐光启的眼光并没有停留在译成一批西方天文学著作上。
他的心愿是编成一部融汇中西历法优点，达到当时最高科学水准的历书。为了实现这个理想，徐光启对历书的结构作了精心的擘划。他提出整部历书要分为节次六日和基本五日。节次六日是《日躔历》、《恒星历》、《月离历》、《日月交食历》、《五纬星历》、《五星交会历》。这六种书由易到难，前后呼应，研讨天体运动的规律，介绍测算天体运动的方法。
基本五目包括“法原”、“法数”、“法算”、“法器”和“会通”，是整部历书的五大纲目。法原是天文学的基本理论，包括球面天文学原理。前述节次六日即属于法原的范围。法数是天文表。法算是三角学和几何学等天文学计算中必须的数学知识。法器是天文仪器。会通是旧法和西法的度量单位换算表。这基本五目包容了有关天文历算的全部重要知识。以后《崇祯历书》的编写工作，几乎完全是按这个计划进行的。徐光启是历局的最高领导人，直接对皇帝负责。他主持历局的四年间，从制定计划、用人、制造仪器设备、观测、译撰直到钱粮细事，一应事务，无不操持，仅就各种事宜向皇帝上疏便有三十四次之多。他不辞辛劳，亲自参加撰写和编译工作。《崇祯历书》中的《历书总目》一卷、《治历缘起》八卷、《历学小辩》一卷，都是他独力撰著的。此外，他还要对全部书稿进行审阅和修改，作文字上的润饰。每卷要修改七八次才能定稿。1633年辞世前夕，他还上疏介绍剩余的六十卷书稿的情况。其中三十卷由他审改定稿，另三十卷草稿中也有十之一二经他修改，十之三四经他审阅。可以说，没有徐光启的全力支撑，历局工作顺利进展将是不可想象的。
徐光启深知实测天象对天文学研究的重要意义。为了使新历更趋科学，修历当中徐光启多次组织历局人员观测日月食、五星运动和节气时刻，取得了大量科学数据。每逢日月食，他常常亲往测候，尽可能掌握交食时刻和食分的第一手资料。此前，我国观测日月食多用肉眼，精确度很低。尤其在观测日食时，由于阳光强烈刺目，初亏与复圆的时刻很难定准，食分的大小也不易测准，食分小的日食更难发现。古代也曾有用水盆映象的方法测量日食，但往往受水面摇荡的干扰。徐光启把刚刚传入中国的望远镜技术用于天文观测，取得了很好的效果。在他的治历疏稿中，多次提到用望远镜观测日月食的情况。其方法是在密室中斜着开一道缝隙，将窥筒眼镜置于此处，日食的情况透过望远镜投射到画好日体分数的图板上，亏复和食分一目了然。用这种方法大大提高了观测数据的精度。
制造望远镜并用于天文观测，徐光启是我国历史上的第一人。徐光启自己备有一部《观景簿》，是他持之以恒观测天象的记录。其中有多年诸曜会合、凌犯行度和节气时刻的观测结果。1629年（崇祯二年），他还主持了一次天文大地测量，测定了山东、河南、湖广、四川、北京、南京等地的经纬度。测量中采用了西方先进的测量方法和技术。后来，根据实测的结果，他又主持绘制了一份当时最完备最精确的星表和星图。这份星图现即称为“徐光启星图”
，它是我国目前所见最早包括了南极天区的大型全天星图。
对天文学研究来说，仪器设备的重要性比起其他学科更加明显。仪器设备先进与否，直接决定着天文学发展的水平和历法的准确程度。徐光启在改历之初，就提出了制造仪器的计划。他为此事专门上疏皇帝，提出“急用仪象十事”，建议制作地球仪、七政列宿大仪（即天球仪）、平浑悬仪、交食仪、60度纪限大仪、90度象限大仪、日晷、星晷、自鸣钟以及望远镜等十种仪器共二十七件。像这样大量引进制造西法仪器，是前所未有的。在原有的观测手段相当落后的情况下，引进仿制西法仪器是迅速提高观测水平的有效办法。当然，引进的目的是“会通超胜”，因此在实际制作中根据中国的情况作了适当的改造与变动，例如仪器上二十四节气的刻画，宫、度等对应的中文名称和刻度，仪器的造型风格的和花饰等等，都体现了中国的特点。徐光启等明代科学家在这方面的探索，为清初用西法浇铸大型铜质天文仪器积累了宝贵的经验。特别值得指出的是，伽利略望远镜问世不久，1618年由传教士邓玉函介绍到中国，徐光启便敏锐地感觉到它对天文观测所具有的重要意义，刚着手修历就装配了三架望远镜，使得观测精度大为提高。