宏观地认识中国古代散文，以下四点需要特别地予以指出。
一是它体裁的庞杂繁复。宋元以前，我国传统的文学基本样式，就是诗和文两种（词虽然别为一种，但严格一点说，词其实是在适应音乐要求下诗的变异，大范围内仍属于诗）。宋元以后，戏剧和小说始蔚为大观。就诗而言，论其形式，有四言、五言、七言和杂言之分；论其格律宽严，有古体、近体之分；论其共同的特征，一是抒情，二是韵律。大体情况如此，甚简约而明白。文则不同，具体的情况要复杂得多，常常很难用几句话把它讲清楚，也很难归纳其共同的特征。它的内容，几乎涵盖了古代社会生活的各个方面，举凡历史、政治、经济、军事、文化、哲学、学术……都包括在其中；它的应用范围，换言之即它的文体，有奏议、表章、诏诰、书启、论说、赞颂、碑传、墓志、哀祭……等，其名目之繁多，用途之琐细，使文章分类成为后世的一门学科分类。例如明徐师曾《文体明辨》分文体（包括诗歌）为127类，其中散文101类，是古代文章分类学登峰造极之作，而中国古代散文体裁的庞杂繁复即此可见一斑。分类太细也有弊病，《四库全书总目提要》批评此书说："千条万绪，无复体例可求，所谓治丝而棼者欤！"当代学者对中国古代散文体裁的化繁为简作了诸多努力，例如有人将古代文章分为十类：论说文、杂记文、序跋文、赠序文、书牍文、箴铭文、哀祭文、传状文、碑志文、公牍文（见褚斌杰《中国古代文体概论》），简明扼要多了。但是我们也能看出，这十类实际上是将中国古代散文纷繁众多的体裁，按其写法和应用范围作了合并而成的，有些合并是恰当的，如论说文合并了古代散文的论、说、原、辨、议、解……等而成，这些体裁虽有细微区别，然其大要，则不外乎论说；有些合并则不尽恰当，如"公牍文"一类，包括了奏议、章表、诏制、檄移……等封建社会朝廷与官府、臣子的各种应用文体，而以上文体虽统属朝廷与官府的应用文体，不但实际的写法区别往往很大，其审美的效果也有较大的差异。另外，以上合并而成的十类，有些偏重于写法，有些偏重于应用，有些则介于两者之间，分类的标尺不一，容易带来一些混淆。例如"书牍文"，固属应用，然而有许多书启，常有以论说为主者；"赠序文"一般以述人事、寓兴叹感慨者居多，但也有一些赠序，几乎全是议论说理。这并不是说今人对古代散文的重新分类不准确，而是古代散文本身太复杂了，复杂到难以以简驭繁的地步。
中国古代散文，事实上包括了诗歌以外的所有的书面文章，唯其如此，才带来了古代散文如上的复杂性。将现当代散文与古代散文作一纵向比较，可以看出古今差异之大；将世界散文与中国古代散文作一横向的比较，可以看出中外差异之大。对于中国古代散文，有人主张用"文章"一词取代"散文"，用对"文章学"的研究取代对"散文学"的研究，是有道理的。"散文"是近代文学分类的专门用语，将包括了诗歌以外的所有书面文章的中国古代散文，统统纳入文学分类之一的"散文"之中，客观上也带来了概念上的混淆和纷乱。对于以上种种状况，我们实在无可奈何，因为中国古代散文，数千年来就是沿着"文章"的路子发展、变化过来的，然而充分认识到这一点，却很有必要。
二是要认识到中国古代散文功能上的实用性。中国古代散文生存、发展的环境，基本上与漫长的封建社会相始终，长期以来就是为封建社会服务的工具。古代散文之起始，即因实用，如《尚书》是商、周和传说中尧舜时期文告训辞的汇录，《周易》多是上古帝王判断战争、天时乃至于婚丧嫁娶吉凶占卜的记录。先秦诸子和史传散文，也是出于政治、哲学和伦理宣传的需要。一直到近代新文化运动起，散文实用性的尾巴仍未能消褪。古代散文的实用性使大量非文学的"文章"掺入到其中，假如我们尝试披阅一下《全唐诗》和《全唐文》--这是两部同一时代的诗文总集，其作者阵营基本相同--我们就会发现，前者美轮美奂，其形式和内容基本上都具有作为文学的诗的特色；后者则十之七八是朝廷、官府和官员们的实用文字，更多地具有政治的，经济的、哲学的和文化的史料价值，欲求符合作为文学的散文的篇什，谓其仅如凤毛麟角，一点儿也不过分。这种情况往往严重到使我们怀疑所谓的中国古代散文，是否还是文学的一种门类？例如刘经庵先生的著作《中国纯文学史纲》，仅列诗骚和词、戏曲、小说四种，而不及散文。
但是我们同时也不得不承认：没有实用便没有古代散文；没有实用，古代散文便不能得到发展。后一点尤其重要，我国古代散文正是在实用中得到改造和转型，形成了一种有民族特色的散文大格局，并施巨大影响于现当代散文。
倘对古代实用文体再作一些深入地分析，我们就会发现，一部分实用文，无论用怎样严格的文学眼光来审视它，都是优秀的文学散文，文辞美，叙事简洁，抒情性强，给人以"纯文学"的美的愉悦和享受，如骆宾王的《为徐敬业讨武曌檄》是布告天下州县的战斗檄文，属"公牍文"，李密的《陈情表》是给皇帝的奏章，也属"公牍文"，韩愈的《祭十二郎文》属"哀祭文"……如此等等，并不能因为它们是实用文就把它们排斥在文学的殿堂以外。大部分实用文，文学特点并不突出，然而从"文章学"的角度看，它们的章法、结构、词藻、对偶、音节等，也不失为一种美，或凝炼整饬，或典雅精工，或富丽堂皇，不一而足，然未始没有可取之处，未始不可以借来作为文学之法，使自己笔下生辉。所以，对这些非文学的文章，率尔弃之，也是不对的。
三是要认识到古代散文语言，亦即所谓"文言文"的恒定性。以非表音的汉字创作的中国古代散文，其语言数千年变化不大，清代散文，语言上与唐宋散文无大差异，唐宋散文，也基本上与汉魏六朝、甚至与先秦散文区别不大。从先秦诸子到晚清的"桐城余孽"，中间经历了约三千年，古今语言的变化之大，可想而知。因地域造成的众多方言，其古今变异之巨，更可想而知。然而我国散文作家却能使用一种从先秦到晚清并无多少差异的共同的书面语进行写作，使我们今天的读者为之惊讶不已。这种书面语言，与口语有一定距离，它应当较口语雅致，比口语精炼。先秦的书面语与当时的口语，距离自然小一些，汉魏隋唐以降，至于明清，书面语与口头语的距离必然越来越大，于是就有了我们今天称之为"文言文"的古代书面语。"文言文"的脱离现实社会语言的实际，适应范围小，以及它的陈旧僵死，在新文化运动中曾遭到有识之士的猛烈批判，终于在西方进步思潮涌入中国、书面语言禁锢解除的20世纪20年代，退出了历史舞台，代之以新鲜活泼、完全采自当代入唇吻之间的新的书面语--白话文。对文言文的批判当然是合理的，然而时至今天，却不妨对文言文的历史功过加以冷静的思考。
众所周知，文言文之弊，主要在于它未能采用口头语。然而文学史的事实告诉我们，反倒是采用当时口语的作品为后世所难懂，而且愈是接近口语，愈为后世所不懂。举两个例子。一是《尚书》。《尚书》多是上古帝王的训告之辞，是采用当时口语较多的上古文献，但《尚书》在先秦即号称难读，汉代学者，注者甚伙，用功甚勤，而其难读如故。韩愈说："《周诰》《殷盘》，佶屈聱牙。"《周诰》《殷盘》即代表《尚书》。另一个是唐代的变文。变文是僧徒向俗众宣讲的佛经故事，几乎全用当时口语，但时至今日却显得晦涩难懂，远不如韩、柳散文明白晓畅。我国幅员辽阔，因地域形成的方言又因通讯、人际交往的不便而悬隔差异愈见其大。韩愈曾贬阳山（今属广东），因语言不通向县吏交待事务时，只能"画地为字"就是一例。方言与"官话"（人烟辐凑的政治、商业中心城市的通行语言）的区别不仅在于语音不同，即语汇、语序和语法亦有较大的差异。以今日交通、通讯的方便和人际交往的频繁，假使让吴越地区、岭南地区、中原地区……的作家各以其方言写作，都会造成阅读理解上的障碍，何况古代？《颜氏家训·文章》引南朝作家沈约的话说："文章当从三易：易见事，一也；易识字，二也；易诵读，三也。"我国古代优秀的散文作家，没有脱去"文言文"的束缚，最终导致了言、文的严重脱离，但他们又不约而同地遵循着"三易"的原则，以规范的标准的字法词法语法进行写作，从而约束规范了数千年的汉语，使其始终沿着适应性更广泛的健康方向发展，其贡献不仅是超越了时间和空间，为历朝历代的读书人提供了读书作文的优秀范本，而且为维系中华民族的文化、伦理诸方面始终为一个整体，起到了积极的作用。
最后一点，是要对古代散文的作家群体有一个明晰的认识。"作家"这个词汇，主要地指一个人所从事的职业，与政治家、军人、商贾、农民……同。然而中国古代的作家，并非以创作为其主要的职业。从"职业"这个意义上讲，可以说我国古代并无"作家"，起码在唐宋以前，并无专业的作家；元代的关汉卿可以算是我国古代第一个专职作家，其后的蒲松龄、吴敬梓和曹雪芹等也是。唐宋及唐宋以前，我国古代作家，几乎无一例外的是政治家和读书求学准备入仕将要成为政治家的读书人，他们人生的第一追求是入仕、建功立业，其次才是写作，或者根本就没有写作的欲望和冲动，只是到了不得已的时候才偶一为之。例如李密，《文选》中录入了他的名作《陈情表》（《古文观止》也录入），然而他除了《陈情表》以外别无他作。他先在蜀为郎，蜀亡后归家，晋帝征他为官，他不愿身仕两朝，想保持名节，遂借口祖母年老无人抚养，写《陈情表》，成为千古名篇。李密作品之少，写作之偶然，或者是个例外，但像李密这样的作家，中国古代文学史上，却非绝无仅有。这样一个作家群体，古代称其为"士"，"士"就是已经入仕、或正在准备从仕的文化人。"士"有两个共同点，一是以天下为己任，二是具备良好的文化素养。中国古代文学，包括诗歌、散文等体裁在内，无不是"士"的社会行为和个人行为的反映。司马迁说："盖文王拘而演《周易》，仲尼厄而作《春秋》；屈原放逐，乃赋《离骚》；左丘失明，厥有《国语》；孙子膑脚，《兵法》修列；不韦迁蜀，世传《吕览》；韩非囚秦，《说难》《孤愤》；《诗》三百篇，大抵贤圣发愤之所为作也。此人皆意有所郁结，不得通其道，故述往事、思来者……思垂空文以自见。"（《报任安书》）司马迁的"发愤"为文，后世演绎为"文穷而后工"。"穷"就是仕途上的走投无路，大而言之，是所谓的忠臣孤愤之士英雄失路、报国无门的悲歌；小而言之，是所谓的游宦困顿之士羁旅草野的哀吟。
因为中国古代散文是由这样一群有高深文化素养、以建功立业为个人生命价值的"士"写出来的，所以中国古代散文才充斥着大量的公私实用之作，而带有浓厚政治、历史、哲学和学术意味的"文章"，才长期与纯文学的"散文"混杂在一起，无法分离。许多虽是政治、哲学或历史、学术性文章，都具"文章"之美，一些公私文牍实用性文章，偶然地极具抒情性而实属纯文学之作。还因为此，中国古代散文一向鄙薄单纯的嘲弄风月、吟咏花草之作，甚至以晤言一室之内、抒发一己幽怨的作品为琐细，而向往文章应成为"经国之大业"（魏曹丕语），主张"修其辞以明其道"（唐韩愈语）、"文以载道"（宋周敦颐语）。中国古代散文，内容多厚实凝重之作，往往与国计民生有关，与个人道德修养有关，而较少抒写性灵之作，原因也在此。
以上四端，不一定是宏观观照中国古代散文的荦荦大者，但却都是我们学习和研究中国古代散文时不可不知者。
关于中国古代散文，又不可不说到赋和骈文。《古文观止》中也收入了数篇赋和骈文。公元3世纪到6世纪（魏晋南北朝时期），在中国古代散文领域内，骈文几乎处于一枝独秀的地步，但说到底，它只是散文发展到那个时期的一种变异或分支，在大的范畴内，它仍然属于"散文"。赋则不同，它是诗文以外相对独立的一种文体，它非诗非文，同时又具有诗、文的一些特征。在古人眼里，赋别为一体，如《韩昌黎集》四十卷，卷一为赋，中间九卷为诗，末三十卷为文。其他作家的集子，其编排次序也大致如此。所以，赋的情况较骈文要复杂一些。
赋的主要源头是楚辞。以文学的眼光看，楚辞（以屈原之作为代表）是诗，赋在形式上更接近文。古人对辞（楚辞）和赋的文体概念相当模糊，如《汉书·扬雄传》说："赋莫深于《离骚》，辞莫富于相如。"《史记·屈原列传》说："屈原既死之后，楚有宋玉、唐勒、景差之徒者，皆好辞而以赋见称。"直至唐代，李白还说："屈平辞赋悬日月，楚王台榭空山丘。"（《江上吟》）忽而辞为赋，忽而赋为辞，忽而辞赋并称，混淆在一起。究其原因，一是古人的文体概念不像今人这样明晰，二是辞赋本身确有易致含混之处。即以汉人刘向编辑、王逸为章句的《楚辞》为例，其中屈原的作品无疑是诗，宋玉的作品就基本上不像诗，疑为屈、宋所作的《渔父》、《卜居》、《对楚王问》等肯定不是诗而是赋。扬雄说："诗人之赋丽以则，辞人之赋丽以淫。"（《法言》）话仍然有含混之处，但他似乎准确地把握到了辞赋的区别所在，即：辞（楚辞）应是重于抒情的，而赋则偏于骋辞。赋，句子长短不一，形式上接近文，但它却有韵--这是赋脱胎于楚辞的重要痕迹，虽然赋的押韵并不整齐，也不严格。
古人的诗、文分编的总集和选集，倘是诗的总集、选集，便专收诗，倘是文的总集、选集，却既收文，也收辞赋。《古文观止》就是如此，收入了《楚辞》中的《卜居》和《对楚王问》，收入了杜牧的《阿房宫赋》和欧阳修、苏轼的赋。在没有专门的赋体总集和选集的情况下，这样处理是有道理的（但像清人姚鼐的《古文辞类纂》，在"辞赋"类收入屈原《离骚》、《九章》，在"哀祭"类收入屈原《九歌》，含混了诗、文的大界限，却是不对的）。今人的散文史著作，如郭预衡先生的《中国散文史》，将赋的发展与散文合论；一些今人编选的散文选集，如《历代文选》（中国青年出版社）、《古代散文选》（人民教育出版社），杂收散文和赋，与《古文观止》编者的思路是一致的。