北魏泰常五年北凉玄始九年西凉永建二年（420）十月北凉沮渠蒙逊灭西凉，西凉王李歆被杀，其母尹氏被俘，置于姑臧窦融台上。唐时把窦融台改称为尹夫人台（今皇娘娘台）。
北魏泰常八年北凉玄始十二年（423）河西王蒙逊遣使入贡于北魏，魏诏以蒙逊为都督凉、秦、河、沙四州诸军事，骠骑大将军，凉州牧，河西王（《资治通鉴》卷一一九·宋纪一）。
北魏神四年北凉义和元年（431）北魏主遣尚书李顺到河西，拜河西王蒙逊为侍中，都督凉州、西域、羌、戎诸军事，太傅，行征西大将军，凉州牧，凉王，统武威、张掖、敦煌、酒泉、西海（治所在龙夷城，即今青海省治晏县，辖境相当今青海省，青海湖东部和北部地带）、金城、西平七郡。
北魏延和二年北凉永和元年（433）北凉王沮渠蒙逊卒，沮渠牧犍立，改元永和。北魏遣使拜牧犍为河西王。
北魏延和三年北凉永和二年（434）四月北凉遣使上表于南朝宋，宋拜北凉王沮渠牧犍为凉州刺史、河西王、征西大将军、都督凉秦等四州诸军事。
北魏太延三年北凉永和五年（437）十一月北魏太武帝以其妹武威公主嫁北凉王牧犍，牧建遣使宋繇奉表到平城（山西大同）致谢（《资治通鉴》卷一二三·宋纪五）。
北魏太延五年北凉永和七年（439）八月北魏太武帝西伐北凉至姑臧，遣使谕牧犍出降。九月，北魏军围攻姑臧，牧犍不敌，姑臧城溃。北凉王沮渠牧犍，率文武五千人降。北凉亡。十二月，北魏太武帝东还，留乐平王丕及征西将贺多罗镇凉州，徙沮渠牧犍宗族及吏民三万户于平城（即平城县，治所在今山西大同市东北八里古城村）。北魏统一了北方各地。
北魏太平真君二年（441）北魏以沮渠无讳（沮渠牧犍之弟）为征西大将军、凉州牧、酒泉王。四月，原北凉的敦煌太守、沮渠无讳堂弟唐背叛无讳，无讳留另一堂弟天周守酒泉，与弟宜得引兵击唐，唐败死。北魏视无讳为边患，遣镇南将军奚眷攻克酒泉，俘获沮渠天周，送平城，杀之（《资治通鉴》卷一二三·宋纪五）。沮渠无讳缺粮，且畏魏兵之盛，乃谋西度流沙，遣其弟安周西击鄯善。鄯善王欲降，魏遣使劝令拒守。安周不能克，退保东城。
北魏太平真君三年（442）北魏以沮渠无讳为都督凉、河、沙三州诸军事，征西大将军，凉州刺史，河西王（《资治通鉴》卷一二四·宋纪六）。
北魏太平真君四年（443）六月沮渠无讳卒，弟安周代立。次年九月，以沮渠安周为都督凉、河、沙三州诸军事，凉州刺史，河西王（《资治通鉴》卷一二四，·宋纪六）。
北魏延兴元年（471）十月魏以南安王桢为都督凉州及西戎诸军事，领护西域校尉，镇凉州（《资治通鉴》卷一三三·宋纪十五）。
北魏正始三年（506）七月凉州地震有声，城门崩。
北魏正光五年（524）魏凉州幢帅于菩提等逮捕刺史宋颖，宋颖暗地里求救于吐谷浑王伏连筹，伏连筹帅兵救凉州，于菩提弃城走，被伏连等追斩。城民赵天安等复推宋颖为刺史（《资治通鉴》卷一五0·梁纪六）。
北魏永熙三年（534）凉州刺史李叔仁被其州民所捉，州内氐、羌、吐谷浑起事（《资治通鉴》卷一五六·梁纪十二）。
西魏大统十二年（546）二月魏以义州刺史史宁为凉州刺史。前刺史宇文仲和据州不受。
魏遣太子太保独孤信、开府仪同三司怡峰与史宁共讨宇文仲和。史宁晓谕凉州吏民，率皆归附，独宇文仲和据城不下。五月，独孤信使诸将攻其东北，自帅壮士袭其西南，克之，遂擒仲和，凉州始平定（《资治通鉴》卷一五九·梁纪十五）。