泰始六年（270）鲜卑族首领树机能反，凉州大乱。
泰始七年（271）四月北地胡进攻金城，凉州刺史牵弘迎战，诸胡联合鲜卑树机能将牵弘围于青山（今庆阳西北），弘兵败身亡（《资治通鉴》卷七十九·晋纪一）。
泰始八年（272）十月敦煌太守尹璩死，凉州刺史杨欣报请敦煌令梁澄为太守。功曹宋质很快废澄，奏请议郎令狐丰为太守。杨欣遣兵击之，为质所败。
咸宁二年（276）二月敦煌太守令狐丰死，其弟令狐宏继立，凉州刺史杨欣击杀之。
咸宁四年（278）六月凉州刺史杨欣与树机能之党若罗拔能等战于武威，杨欣败亡。
咸宁五年（279）正月树机能攻陷凉州。晋武帝任马隆为武威太守，募兵西征。马隆与树机能大战数月，直到十二月，树机能才兵败被杀，凉州遂平（《资治通鉴》卷八十·晋纪二）。
元康六年（296）正月王肜为征西大将军，都督雍、凉二州诸军事（《资治通鉴》卷八十二·晋纪四）。
永宁元年（301）正月晋惠帝以张轨为凉州刺史。当时，凉州境内盗贼纵横，鲜卑为寇。
轨到任后，以宋配、汜瑗为谋主，悉讨破之，威震西土（《资治通鉴》卷八十四·晋纪六）。
永兴二年（305）六月鲜卑若罗拔能进攻凉州，张轨派司马宋配迎击，大胜，斩拔能，俘十余万口，威名大振（《资治通鉴》卷八十六·晋纪八）。
永嘉二年（308）二月凉州刺史张轨中风，口不能言，使其子茂摄州事。陇西内史晋昌张越及其兄酒泉太守镇，连同西平太守曹祛，欲逐轨而代之。朝廷得知轨被诬后，乃命轨诛曹祛。轨于是命其长子帅步骑三万讨祛，斩之。张越奔邺，凉州乃定（《资治通鉴》卷八十六·晋纪八）。
永嘉六年（312）匈奴刘曜攻陷长安，晋怀帝被俘。凉州主簿马鲂劝张轨：宜命将出师，拥戴帝室。轨从之，驰檄关中，共尊辅秦王，且言：“今遣前锋督护宋配帅步骑二万，径趋长安，西中郎将帅中军三万，武威太宋张帅胡骑三万，络绎继发。”宋配、张等赶走刘曜，尊秦王司马业为愍帝（《资治通鉴》卷八十八·晋纪十）。
是年张轨分武威郡，置武兴郡，以安置中原流民。时武兴郡治晏然县，即今甘肃武威市丰乐镇附近。辖焉支县（治所在今甘肃永昌县西红山窑乡高古城）、新鄣县（治所在今甘肃永昌县西二十里水磨关南二里水寨城）。
建兴二年（314）二月孝愍帝以张轨为太尉、凉州牧，封西平郡公。朝廷以张轨老病，拜其子为副刺史。五月，张轨病危，遗令：“文武将佐，务安百姓，上思报国，下以宁家。
”不久，轨卒。长史张玺等报请世子张摄父位。十月，以张为都督凉州诸军事、凉州刺史、西平公（《资治通鉴》卷八十九·晋纪十一）。自立年号为永安，是为前凉。
建兴四年前凉永安三年（316）四月匈奴首领刘曜欲再次进攻长安，张遣将军王该帅步骑五千入援。晋诏拜都督陕西诸军事，以弟张茂为秦州刺史。八月，刘曜进逼长安。九月，攻陷外城。长安被围困。城中无粮，人相食，死者大半，大都外逃，唯凉州义众数千人，守死不移（《资治通鉴》卷八十九·晋纪十一）。