魏晋南北朝时期，由于南北分裂和世家大族势力的广泛发展，时常有刺史、郡守、“州人”、“城人”、“亡命”等地方势力发生叛乱。每当地方叛乱发生之后，能够最快最迅速地镇压叛乱的只有州刺史所领的州郡兵。因此，州成为维持地方治安，镇压地方叛乱的重要武力，因而也成为其重要职责。如三国魏文帝黄初六年（226年）六月，利成郡兵蔡方等以郡反，朝廷“遣屯骑校尉任福、步兵校尉段昭与青州刺史讨平之”。西晋武帝太康八年（287年）十二月，“吴兴人蒋迪聚党反，围阳羡县，州郡捕讨，皆伏诛”。惠帝太安中，张昌作乱。南蛮校尉、荆州刺史刘弘，“率前将军赵骧等讨昌，自方城至宛、新野，所向皆平”。永兴末，马牧率汲桑与羯人石勒称兵寇扰于冀州。时广平太守丁绍刚除为冀州刺史，“到镇，率州兵讨破汲桑……”光熙元年（306年）三月，东莱刘柏根、王弥起兵。“后引兵入寇青徐，兖州刺史苟？逆击，大破之。”东晋安帝元兴三年（404年），卢循寇南海。广州刺史吴隐之“率厉将士，固守弥时，长子旷之战没”。义熙九年（413年），刘怀慎为徐州刺史，“亡命王灵秀为寇，讨平之”。宋文帝元嘉十一年（434年），“亡命马大玄群党数百人寇泰山，州郡讨平之”。十八年（441年）十一月，有氐人杨难当寇汉川、晋宁太守爨松子反叛，分别被梁秦二州刺史刘道真、宁州刺史徐循讨平之。梁朝武帝天监七年（508年）、天监八年（509年），先后有交州土民李贲、安成郡民刘敬躬等反叛。梁廷派江州刺史湘东王绎出兵平息了刘敬躬叛乱，派越、罗、安、爱诸州刺史征讨李贲叛乱。至于北朝时期，根据《魏书》记载，在北魏境内先后发生了许多地方叛乱，这些叛乱大多是被州兵或州郡兵共同平息的。
总之，魏晋南北朝的州是一个具有多重权力的集合体。在多重职责兼于一身的时代里，刺史职责更偏重于军事。如三国曹魏政权中的吕虔，魏文帝时被任命徐州刺史，加威虏将军。“请琅琊王祥为别驾，民事一以委之。”而吕虔自己则专管军事。尽管此时做官有清浊之分，立功不以战取为荣，而不带戎号的刺史，却常常为世人所鄙夷。刺史带戎号既是一种荣誉，更是一种职责。
由于州负有重要的军事和治安之责，州郡置兵成为必然。宋梁之后及北朝的诸政权里，甚至还有置乡兵的。州刺史成为州郡兵和乡兵的当然统领者。另外，朝廷还在各州设都督区，任命都督统领中军，担任防守和作战任务。刺史还拥养大量的部曲私兵，少者二三百，多者达万人。曹魏和西晋初，都督和刺史分别任命。晋惠帝以后以一人兼领。于是，便形成一个以州为依托的一个军事兼行政的地方权力实体。诸种兵力和诸统兵者的关系，如图所示：
中央（设都督中外诸军事或五兵尚书）
↓
方镇---都督---中军
↓
州郡--刺史郡守--州郡兵
↓
乡一乡帅-乡兵
（注：纵向箭头表示领导层级和统属关系。横杠表示管区、统领者与所统兵众）图中所示的统领关系为：整个国家武力受统于朝廷尚书台下的五兵尚书（或都督中外诸军事）。其中，受朝廷直接统辖的是中军，主要用于守卫京师，镇御地方和对外作战，地位最高。受朝廷间接统辖的是州郡兵。州郡兵直辖于州刺史和郡太守，主要用于维持州郡治安，地位远不及中军。乡兵则统于乡帅。由于乡帅也是州之属佐，故乡兵也归州郡统领。魏晋南北朝时期，镇将的地位高于刺史，故刺史要听命于都督。因此，一旦对外发生战争，都督还可以征用州郡兵，令刺史挂帅出征。这种多层级的军事组织运作方式，是平时分工负责，战时合力对外，使战争胜利更有保证。此其一。单向下统的统领关系，使刺史无权插手中军，而都督却有权统领州郡兵。但只有在战时，由朝廷授权其节度某州郡兵力，平时无权随意动用，从而保证了州郡兵一定的独立性。此其二。中军和州郡兵统属于朝廷，使朝廷可以将各级兵权一体掌管，以保证朝廷对所有军事力量的绝对领导。此其三。对朝廷来说，中军、州郡武力是一体的。在特殊情况下（如都督手下无兵或兵丁过少），朝廷还可裁割州郡兵力给都督。如东晋孝武帝太元中，朱序被命为“都督司、雍、梁、秦四州军事。帝遣广威将军、河南太守杨？期，南阳太守赵睦，各领兵千人隶序”，而都督则无权割兵自随。不过，魏晋南北朝时期战争十分频繁，州郡经常要听命于所属都督的军令，参与对外作战，形成实际上的“府以统州，州以监郡，郡以莅县”的府州郡县统属关系。所以，都督区某种程度上成为高于州的一级特别军政区而管理着州区。在平时的诏令中经常看到的也是以“征镇州郡”起首的公文起头格式。而实际上，州刺史听命于都督是有条件的。州具有较大的独立性。如曹魏明帝太和五年（231年），吴将孙布诈降，扬州刺史王凌向都督满宠求兵未得，便自己带兵七百去迎孙布。在行政统属上，州的独立性则更大。
在军事用人、军队调遣、军令发布等方面，权力统归朝廷。《宋书》卷6《孝武帝纪》载：“大明七年（463年）五月丙子诏曰：’自今刺史守宰，动民兴军，皆须手诏施行。唯边隅外警，及奸衅内发，变起仓卒者，不从此例。‘”中军的各级将领均由中护军主管选用。各州将郡将，由朝廷任命。各军镇镇戍地的移动须经朝廷许可。《晋书》卷81《朱序传》记，朱序在做兖青二州都督、刺史时，先镇彭城，“求镇淮阳，帝许焉”。未经许可而移动军镇是违法行为。
另外，魏晋时期中军和州郡兵还存在着明显的等级和待遇上的差别。即使是同为中军，驻扎在京城的与驻扎在京外的军队也有区别。如《晋书》卷48《段灼传》所载：“《乙亥诏书》，州郡将督，不与中外军同，虽在上功，无应封者……苟在中军之例，虽下功必侯，如在州郡，虽功高不封……”这说明，在魏晋时期朝廷倚重的是中军力量，其中主要是驻扎在京城的中军。至于州郡兵则只是国家武力的辅助。州郡兵在战时不仅要出征，受朝廷指派的都督直接指挥；战后封功受赏时，也比中军相差很远。这种有意制造中军与地方军的差别，实际上是在刻意地抑制州郡兵。抑制州郡武力，可以达到以重制轻，以近抑远，以中军慑外军的战略目的。
不过，州作为朝廷一级地方行政机构，必须是在朝廷的统领下行使自己的行政职权。这表现在州刺史的任命由朝廷决定。宋以后，刺史的任命成为大事。当时任命刺史，大多在本纪中予以记载。尤其是宋政权，每任命一位刺史，都要在《本纪》中留下记录。《宋书》各《纪》几乎是宋政权任命都督刺史的委任状集。地方大吏要推荐刺史，须向朝廷“表求”或“启奏”。由于州集军民政刑权力于一身，极易形成地方势力集团。因此，不仅刺史由朝廷任命，刺史的主要属佐，如州行政系统中的上纲之佐--别驾与治中二属佐，素有“万里纲纪”之称，在州刺史手下，职无不总，此二职常由朝廷任命。州军府系统的主要属佐如长史、司马及诸参军、功曹、主簿、典签等职也由朝廷直接除授。刺史对上述属佐，可以推荐和表求。宋世，行参军也须经台除。除朝廷任命州刺史之外，刺史的迁代、黜陟、奖励、惩罚均由朝廷决定。
刺史要向朝廷奏事和接受朝廷考课。三国时，“刺史巡行所部郡国，录囚徒，考殿最，每岁遣计吏诣京都奏事”。晋时“刺史三年一入奏”。为了加强对州郡的控制，朝廷还经常分派大使巡行州郡，检查州郡政情。
州在行政上必须严格执行朝廷命令。州内一些重大事务如赈灾粮的发放、地方百姓因天灾人祸而蠲免赋税和徭役以及新增税目、表彰地方英贤孝烈、立颂碑、兴修大型水利工程、设立州区、祥瑞灾情及有关国计民生的大事，等等，须上报或请示。
朝廷在居高统御州政权的前提下，又给予州一定的行政自辟权。魏晋南北朝时期，州行政和州军府均有数量庞大的属吏。在这些属吏中，除前述州行政和军府佐的上纲属佐由朝廷敕命除授外，其余众多的一般属吏则沿袭汉以来的制度，由州将自己辟除。州行政系统的一般属吏常辟用本州士人，州军府佐的一般属吏常辟用外州人。这种主要属佐受命天朝，确定了他们对朝廷负责的义务关系，可以防止刺史与属佐串通一气，抗拒中央，还可形成上纲属佐对州首的直接监督。一般属吏由州辟除，则保证了州刺史对部属的高效使用以及保证与所莅之州士族百姓的良好关系。这种层层臣属与相互牵制的关系，确保了国家机器在地方上的有效运转。
魏晋南北朝时期的州，与朝廷的责权关系还表现在监察方面。在这方面，州处于既受朝廷监察，又负有监察所属郡县的职责这样一个中间环节。
在朝廷对州实施监察时，常用风闻言事和巡察郡国等方式来进行。所谓“风闻言事”又称“风闻论事”，即弹官可以凭借道听途说，不一定要有真凭实据，甚至可以在没有具体检举人的情况下，行使弹劾权。“风闻论事”制度，学者认们为起于晋宋时。《晋书》卷83《顾和传》载：王导为扬州刺史，辟顾和为州从事。一次王导命诸州从事各言所部二千石官长得失。“（顾）和独无所言”，又劝导曰：“明公作辅，宁使网漏吞舟，何缘采听风闻，以察察为政。”这是风闻言事的较早记载。宋齐时期，风闻言事曾被取消。至梁武帝夺位后，批评以前端右纠弹不力，“壹拘常式，见失方奏”。尔后，下令“今端右可以风闻奏事，依元熙（东晋末恭帝年号）旧制”。于是，这一制度又开始使用。
通过定期和不定期地巡视地方，发现非违，施行弹劾纠察，是朝廷对地方州郡进行纠弹的另一方式。晋武帝时，大臣石苞上奏提出，对地方官员，朝廷应责成有关大臣遣掾属循行，举其优劣。晋武帝接受这一建议，诏令司徒遣其掾属巡行州郡，监察地方长吏。南北朝时，遣使巡察州郡成为制度。大使出巡前，皇帝常下诏：“旌贤举善，问所疾苦。其有狱讼亏滥，政刑乖愆，伤化扰治，未允民听者，皆当具以事闻。”即使是南朝宋政权到了快终结的时候，依然遣使巡行地方，并要求使者“如狱讼诬枉，职事纰缪，惰公存私，害民利己者，无或隐昧”。