初显身手
1849年，12岁的张之洞从贵州出发，经湘鄂归原籍直隶准备参加童子试。时拜读于其堂伯父孙钺下。次年张之洞与堂兄一起参加了考试，中秀才，受主持考试的学政程廷琛赏识，深加勉励。
1852年，张之洞在顺天府参加乡试，此时的张之洞年方十五。主持考试的是安徽旌德人吕贤基，考试的题目是“中庸之为德也其至矣乎”。至九月九重阳放榜，观之，荣登榜首。
15岁中解元的张之洞，自此戴上了一顶神童的桂冠。这也为他日后中进士无疑奠定了坚实的基础。
1853年春，太平军自武昌东进，九江、安庆、芜湖相继沦陷，3月中旬攻克南京，并定都于此，改名天京。稍后挥军北上、西征，北伐军一路旌旗，数月即逼近京师，朝野震恐。
迫于时势，张之洞决定离京。其后与其族人和姊夫鹿传霖参加了兴义府保卫战。战事稍平，张之洞与都匀府知府石煦之女成婚，婚后张之洞依然随父左右。
1856年春，张之洞通过了礼部招考觉罗官学教习的考试。
1859-1860年，因同考官是其族兄张之万，所以要例行回避。回南皮不久，石夫人生下长子张权，这给郁郁不得志的张之洞带来了不少欢乐。
1862年，张之洞再次进京师参加会试。不料，名落孙山。
1863年春，张之洞赴京师，再次参加会试。自15岁中解元以来，11年了，张之洞的学识和阅历都非昔日可比，考试结束，会试发榜，中贡士。5天后的保和殿复试，张之洞被评为一等第一名。7天后，进入廷试（殿试）阶段，这是封建社会最高的考试级别，其文章颇受西太后欣赏，遂排名一甲第三。3日后，传胪之礼在太和殿举行，张之洞被赐“进士及第”。次日，新科进士向帝后谢恩。
殿试后，还要进行选拔庶吉士的教考。张之洞再战再捷，列为一等第二名。
6月23日，帝后召见新科进士，授张之洞为翰林院编修。
这次会试的成功，着实为他日后近半个世纪的官宦生涯奠定了基础。
1863年至1866年间，张之洞在翰林院任编修。翰林院是朝廷的“人才库”，为翰林者，虽然不任很重要的职事，但社会地位很高，而且升迁的机会也较多。
张之洞任事勤谨，文渊阁、国史馆里有大量前人撰写的文卷，使张之洞很快熟悉了各类文书，所撰写的文稿，深为同事赞许。在此后的官场生涯中，这种文才成了他的坚实后盾，令他在众多为官者中卓尔不群，平步青云，直至最后权倾朝野。同僚刘芝泉曾拿起张之洞常用的紫毫笔，戏说道：“在香涛手里，此笔无异于龙泉宝剑，轻轻一挥，锋芒毕露啊！”
1865年，是会试之年，翰林院散馆考试与本科会试同时举行。这次散馆专考策论，张之洞精于此道，一举夺魁。正当一家人沉浸在喜悦中时，张之洞夫人石氏在京病逝。翰林大考于第二年举行，结果张之洞仅因考卷中漏脱一字而名列二等三十二名。
1867年4月，张之洞参与保和殿选官考试，奉旨赴浙江充任乡试副考官，这是张之洞第一个实差。
踏上仕途
浙江乡试结束后，张之洞奉谕旨，出任湖北学政。12月，张之洞抵达武昌，正式开始了他的学政工作。他在奏报到任的奏折中阐明了自己的治学方针：“学政一官，不仅在衡一日之短长，而在培养平日之根底；不仅以提倡文学为事，而当以砥砺名节为先。”
张之洞在任期间巡案各地，此外在湖北学政任上还做了不少实事。他提议兴建经心书院以代替湖北省原有的江汉学院等等。
1870年正月，张之洞续娶唐氏（乃当时湖北布政使唐树义之女）。
张之洞在湖北出色的政绩博得了时人称颂。曾国藩在“与许仙屏书”中称：“往时祁文端、张海门视学吾乡，最得士心，近张香涛在湖北亦惬众望。三人者，皆宏奖，士类津津乐道。”1873年5月，举行选官考试。张之洞奉命出任四川乡试副考官。出闱后，奉旨出任四川学政。
张之洞在任四川学政任期间除了正常地按临各府、州主持岁、科两试外，还整顿了四川省试场，制定了省试八法。同时选拔人才极多，杨锐、林旭、宋育仁为其中著名者。
为官山西
1883年11月，张之洞调任山西巡抚，此时他45岁。
张之洞于2月10日到达山西省会太原，12日与前巡抚卫荣光办理了交接手续，当日上任。
张之洞深知吏治的好坏直接关系到清王朝的稳定。“天下贪官，甚于寇盗，衙门污吏，何异虎狼”，“富贵者纵恶不究，贫穷者有冤莫伸”，压迫越严重，爆发也就越激烈。太平天国运动就是一个很好例证。张之洞深知个中滋味。
张之洞在任期间，经过详细缜密的调查，取得确凿证据后奏请朝廷撤掉了一批不法官员。另外，也在“褒奖偱良片”中褒奖了那些爱民如子、官声卓著的官员。
在进行吏治的同时，张之洞还留心访求人才。当时以刚正著称，尤以理财声名远扬的阎敬铭就被张之洞劝出仕。之后，张之洞还向朝廷呈递了一份“胪举贤才折”，为国选材数十人。
1873-1877年，山西屡遭天灾、人祸，1877-1878年北方发生了“丁戌奇荒”，山西受灾尤重，赤地千里，百姓纷纷逃荒，甚至出现了交换子女充饥的现象。张之洞上任以后，山西百姓疮痍未复，而他的信心并没有因此而打倒，反而鼓舞了他励精图治的决心。
经过数月考查，张之洞向朝廷上奏了一道综合农业、财政、吏治、武备、教育等各个方面的“整饬治理”的奏折，提出了治理山西的全面计划，此计划有二十多条，包括：1.“责垦荒”；2.制定“鱼鳞图册”；3.设“裁摊科”，消除苛捐杂税等等。
经过他的治理，山西民间民力得以恢复，官场的弊端得以剔除。
整顿禁烟
中国开始沦为半殖民地半封建社会始于鸦片战争。那时候林则徐就已经意识到从国外来的鸦片才是导致中国穷困的根本原因，遂决心禁烟，但最后却被革职、遣戍。
此时，山西受鸦片的毒害非常严重，省城周围的农村一半以上的人吸食鸦片，而在省城吸食鸦片的人达到总数的百分之九十，官吏士兵几乎无人不吸。这也是造成“丁戌奇荒”的一大因素。
张之洞在1882年6月上奏朝廷的“整饬治理折”中就提及了禁种罂粟。1882年11月，张之洞正式制定了消灭鸦片的《禁种罂粟章程》，告知全省官民一起严格遵守。于是一场声势浩大的禁烟运动在山西拉开了帷幕。
张之洞一方面令官员分赴各地，仔细查处鸦片产地，全部予以清除，各种植鸦片者听到命令自行铲除。
另一方面对那些沉溺较深的“瘾君子”，为他们请医买药，戒除毒瘾。
治理粤鄂
张之洞是洋务运动的“殿军”人物。
中日甲午战争的惨败给洋务运动以严重打击，但他仍艰苦卓绝地继续奋斗，在湖北武汉地区，开辟出这一运动后期的辉煌局面。其意义不仅就此奠定了武汉在华中乃至在全国现代化格局中的重要地位，而且更在于他开时代风气之先的诸般作为，涉及近代工业、商业、交通、文教、军事等广阔的领域，对当时的中国甚至亚洲，都具有前驱先路的示范意义。
尤其在近代重工业的创始方面，张之洞更是功不可没。他开办了亚洲第一家大型钢铁联合企业汉阳炼铁厂，比日本最早的八幡制铁所还早7年。他建立的湖北枪炮厂，虽然从时间上晚于沪、宁等地的军工企业，但其设备、产品之先进，明显后来居上。毛泽东当年曾特别强调，讲到中国的重工业，“不能忘记张之洞”，其根据就在这里。
张之洞办洋务，开创近代重工业的基础，不是书生气十足地坐而论道，而是脚踏实地，艰苦奋斗。开办炼铁厂之初，李鸿章就认为“恐难交卷，终要泻底”，抱有“黄鹤楼上看翻船”的阴暗心理。“从来身居局外者既非身习其事，又未目击其难，往往以道路传闻之语悬揣苛求。”张之洞一向主张“力所能为者，必应决计速行”。
因此，他力排众议，破除万难，多方筹款，亲自过问选址、原材料供应、机械设备的订购等问题，殚精竭虑，终有所成。他总是将实现目标的坚定性与手段的灵活性结合起来，因而能在“所办之事皆非政府意中欲办之事，所用之钱皆非本省固有之钱，所用之人皆非心悦诚服之人”的情形下，艰难成就一番“新政”事业。“皆非”之语，当然有所夸张，“政府”在这里也应读作“朝廷”。
但是，张之洞办事、花钱、用人的决心、技巧和效率，确有研究其科学成分的价值。当然，士大夫出身的张之洞，其思维方式、政经验和知识构成很难完全适应近代大工业的基本要求。从这个意义上讲，其“书生习气”确实对办厂兴业带来负面影响，也是事实。
张之洞督鄂的最直接的原因是因为修建芦汉铁路。
这是一条在今天看来很普通的路，但在当时，不仅是一条新路，一条抽象的仅停留于构想之中的路，而且也是一条阻力巨大、困难重重的路，客观上更是一条由前现代社会向现代社会的转型之路。
时任两广总督的张之洞一奏而使争论尘埃落定。
张之洞在复奏中首先认为，修筑铁路有利国计民生，铁路是西方近百年来“驯至富强之一大端”，中国“自不得不采彼长技以为自强之助”。
接着他提出，修筑铁路必须有“经营全局”的视野，认为与其修津通铁路，不如修芦汉铁路，从芦沟桥起，经河南达于湖北汉口。
他强调，芦汉铁路穿中国腹地而过，不近海口，无“资敌”之患；修铁路“以开通土货为急务”，“首在利民”，无“夺民生计”之忧，实为“中国大利之所萃”。
这样，既挡住了守旧派的攻击，又否定了李鸿章的方案。
1889年8月8日，清廷调两广总督张之洞改任湖广总督，督办芦汉铁路。
正是京汉铁路上隆隆行驶的火车、长江上轮船鸣响的汽笛和汉阳铁厂高耸入云的烟囱，才使中国社会的近代转型之路显得具体可观。
张之洞则被日本名臣伊藤博文誉为“中国第一能办事之人”。
兴办学堂