魏晋南北朝时期是中国散文发生又一次重大变化的时代，也是文学独立自觉的时代。
汉魏之际是中国散文发展的一个重要历史阶段，是个开风气之先的时期，其主要作家是三曹和七子。
曹操（155～220）不仅是杰出的政治家，也是杰出的散文家。他明确提出表章之文“勿得浮华”，故其为文亦不尚华词。其文多为表、书、律令，但都写得十分随便。其自叙身世、自明心迹之文，如《让县自明本志令》、《遗令》等，多能推心置腹，自然，实在；其求贤、荐贤之文，如《求贤令》等，多写得实事求是，无所顾忌；其祭吊之文，如《祀故太尉桥玄文》等，则多不拘旧套，信口而谈，然感情深挚。曹操的文章在内容和形式两方面都能突破前代文章的某些陈规，放言无忌，形式自由，形成清峻、通脱、简约严明的基本风格，成为一个“改造文章的祖师”，对当时和后世散文产生了重要的影响。
曹丕（187～226）也是一个重要的散文家。在文学理论方面，他的《典论·论文》是中国最早的文学批评专著。他提出文章是“经国之大业，不朽之盛事”；提倡“文以气为主”，反对文人相轻等，都颇富开创意义。其散文文体多样，风格自具。其文章多写得坦率自然，生动活泼，感情真挚，亲切有味。其行文通脱自然之风近于曹操，而其文章之华丽则是沿袭了东汉文章的华靡之风。
曹植（192～232）的散文众体兼备，而尤长于表章和书札，其《与杨德祖书》、《求自试表》、《求通亲亲表》等，都写得意气极盛，颇动感情，辞藻富艳，文采焕发，与其诗一样，具有“情兼雅怨，体被文质”（钟嵘《诗品上》）的特色。
七子之中，散文成就较高的是孔融和王粲。孔融（153～208）的文章以议论为主，如《荐祢衡疏》、《论盛孝章书》、《与曹公书啁征乌丸》等，均能直陈己见，颇具锋芒，文句整饬、辞采典雅富赡，用事用比精妙，确有胆大气盛、放言无忌之特色。王粲（177～217）的一些书信和议论文字也颇值得注意，既有纵横之气，又有恳切的“仁人”之言。
七子之外，诸葛亮（181～234）亦以散文著称，其代表作是前、后《出师表》。文章叙事详明，说理透辟，感情色彩强烈，语言朴实无华，颇为后人推重。其他如应璩、吴质、繁钦等的书札文字，讲究用事，重视辞藻，代表了建安后期文章由质而文的发展趋势。
魏晋易代之际，散文的发展出现了两种不同倾向。以王弼、何晏、夏侯玄为代表的正始名士，多谈老庄玄理，其文章多“善言名理”，使说理文章有所发展。而以阮籍、嵇康为代表的竹林名士，则写出了“师心”、“使气”的论辩之文。阮籍（210-263）的散文均为长篇大论，形式也不拘一体，最有代表性的作品是《大人先生传》，文章以“大人先生”自况，多抒激愤之情，语言则韵散相杂，很有独创性。嵇康（223-263）的文章以析理持论见长，其代表作有《与山巨源绝交书》、《管蔡论》等，言论大胆，见解新颖，论证精辟，笔锋犀利，不仅是通脱，简直是纵横恣肆，无所忌惮。
两晋之文，仍多议论，然在用字平易、偶语日增、论叙益繁方面均过于汉魏。
西晋初年之笔札，首推张华（232～300）。其文信笔挥洒，不假雕饰，风格自然洒脱。名噪一时的三张（张载、张协、张亢）、二陆（陆机、陆云）、两潘（潘岳、潘尼）、一左（左思），则多以骈文、辞赋见称。两晋之际的刘琨、郭璞，散文自有特色。刘琨（270～317）之文主要是表笺和书信。其《为并州刺史到壶关上表》、《与丞相笺》等，均据事直言，不加虚饰，不用骈丽，自然朴实；其《与卢谌书》等，虽骈散相间，但亦无意属文，意到笔随，自然朴素。郭璞（276～324）的政论和一些赞、序之文也颇有特点。此外，西晋出现了一批俳谐之文，如张敏的《头责子羽文》、陆云的《牛责季友》，鲁褒的《钱神论》等，为前代所罕见，时人争相效仿，遂成一时风气。
东晋骈文盛行，散文有成就者，莫如王羲之和陶渊明。王羲之（303～379）之书信文颇为出色，不论是谈政事的《与会稽王笺》、《报殷浩书》，还是自叙生平志趣的一些书札，均纵意而谈，肺腑相见，具有自然洒脱，风神摇曳之特点。其最为人传诵的文章是《兰亭集序》。此文虽系宴集之作，多喟叹之情，但即事抒情，叙中写景，文笔清新疏朗，情致韵味绵邈，而又不带骈俪习气，风格真挚而自然。陶渊明（365～427）的散文不尚偶俪，不近繁缛，与晋宋之交的文风大异其趣。其《五柳先生传》、《告子俨等疏》等文语言省净，不事雕琢文饰；语气和平，而颇具真情实感。其传世名作《桃花源记》，虽有虚构成分，但其叙述之逼真，描写之精彩、寓意之深刻，语言之清腴，都使人拍案称绝。其散文以淳真淡泊之风格，卓然不群，独标一帜。
南北朝时期，骈文鼎盛，散文中衰。由于文学意识的逐步自觉，南朝刘宋时，文学已另设一馆，与哲学、史学正式分道扬镳。这一时期文学理论的总倾向也是重视文采，重视抒情，讲究骈俪和用典，加之声律说的出现和在创作中的运用，逐渐出现了有韵之“文”和无韵之“笔”的分野，而重文轻笔的倾向，又大大推动了文章的骈化。然而就在骈文鼎盛之时，又有人起来批评骈文，开始了古今文体之争，故散文仍有一定成就。
在南朝而反南朝文风者，前有范缜，后有裴子野。范缜（450？～510？）的《神灭论》不用骈俪，说理透辟，锋芒毕露，风格与魏晋名理之辩文章一脉相承。裴子野（469～530）著《雕虫论》，直斥骈文等为“雕虫之艺”，他自己为文不尚靡丽之词，而写散体之文。其文学主张和创作实践，都代表了由文而质的转变趋势。
北朝文风虽受南朝影响，然亦自有特色。苏绰（498～546）是文章复古的首唱者。他一反骈体，仿《尚书》写《大诰》，纯用散体，质朴无文，虽矫枉过正，然其改变文风、文体之用意十分明显。颜之推（531～594）是由南入北的作家，他主张文章应源于五经，提倡古今文体合流。其代表作《颜氏家训》是以说理为主的短篇随笔，语言通俗平易，质朴无华，用接近当时的口语写成，别具一格。郦道元（？～527）的《水经注》虽是讲水道的图经地志之作，同时也是描述山水的散文佳品，其中不少篇章段落如《江水注·巫峡》、《河水注·孟门山》等，均为历来传诵的名文。这些文章不但景物描写生动逼真，而且还广泛采集风土民情，历史掌故，民间谚谣等；虽以客观描述为主，然亦间有抒情；行文以散体为主，而写景状物也时杂骈俪。此书显然受南朝山水诗文之启发，它为中国散文的发展开辟了一个新的领域，对后世山水散文的发展有巨大影响。杨街之（生卒年不详）的《洛阳伽蓝记》是一部记述洛阳佛寺园林兴废的著作，内容较为广泛。其中《景明寺》、《永宁寺》等均为名作。此书工于描绘，情景生动；条理清晰，叙写完整；叙事主要用散文，描写、抒情则时杂骈偶。全书文笔流畅，然骈俪习气较重。
此外，魏晋南北朝时期还有一些史家之文（如陈寿之《三国志》，范晔之《后汉书》等）、小说家之文（如干宝之《搜神记》、刘义庆之《世说新语》等），以及一些传统的散文名篇，也都从不同的方面体现了这一时期的散文成就。