水军的建置三国水军
三国时期，北方的曹魏政权以陆军见长，但也注意发展水军。曹操统一北方后，为进军江南，创建了水军。建安十三年（公元208年）正月，曹操在邺（今河北省临漳县西南邺镇附近）“作玄武池，以肄舟师”。当年秋，曹操南攻荆州，刘琮不战而降，荆州水军悉归曹操所有。赤壁一战，曹操溃败，焚舟逃遁，水军无存。次年春，返军至淮（安徽亳县），即“作轻舟，治水军”。魏国建立之后，文帝曹丕也重视水军的建设。黄初五年和六年（公元224～225年），“为水军，亲御龙舟，循蔡、颖，浮淮”，又“为舟师东征”，至广陵（今江苏扬州），曹丕两次“临江观兵”。景初元年（公元237年），还曾“诏青、兖、幽、冀四州大作海船”。（转引自《中国军事史》第三卷·兵制）但由于造船能力的不足和北方不善于舟楫等条件的限制，曹魏的水军与东吴相比，始终处于劣势。
刘备在荆州时，曾建有一支水军，由关羽统率。蜀国建立后，因居长江上游，具备扩建水军的条件，曾努力发展造船业，但受人力、物力和技术条件的限制，所造船只的数量和质量都不如东吴，而且以运输船居多，缺少主力战船。蜀国没有水战传统，缺少治水军的人才。所以蜀国水军的兵力和战斗力远逊于东吴，和魏国不相上下。
吴国滨江临海，东吴水军实力最强。建安四年（公元199年），孙策在庐江之战中击败黄射，缴船千艘，从而创立了东吴水军。建安八年（公元203年），孙权在政权初步巩固后，开始实施全据长江的方针。他以为父报仇为名，对江夏发起攻击，企图首先歼灭黄祖军，夺取江夏郡，尔后夺取荆州。十月，他率水、步军沿长江西上，大破黄祖水军。但攻城未克，而且山越再次叛乱，被迫回兵进行镇压，以安定后方。建安十二年（公元207年），孙权再次西攻黄祖，掠夺其人民而回。
次年正月，孙权第三次进攻江夏。黄祖以两艘艨冲挟守沔口（即夏口，今湖北汉口），以艨冲上的千名弩手发射弩箭封锁水面，阻击吴军前进，以步兵在后，坚守沔口城。吴将董袭、凌统为了突破黄祖水军的封锁，各率百名敢死队，每人披两重铠，乘大舸船，冲人阵中。董袭亲自拿刀砍断固定艨冲的链绳，艨冲横流，吴军才得以前进。吴将吕蒙大破黄祖水军，斩其都督陈就，水陆齐攻，攻克沔口。随后，在追击中又杀死黄祖，取得东吴第一次水、陆军联合作战的大捷。
吴国有发达的传统造船工业，造船工场遍布全国，如沿江的秣陵（今南京）、京口（今镇江）、豫章（今南昌）等地，沿海的永宁（今浙江省温州）、横阳（今浙江省平阳县）、温麻（今福建省连江县）等地都设有造船工场，称为“船屯”。在建安（今福建省福州），还设置了典船都尉的官职，以统管造船事务。
吴国依靠发达的造船业，建立了一支强大的水军，“泛舟举帆，朝发夕到，土风劲勇，所向无敌。”（《三国志·吴志·周瑜传》）吴国水军战船数量大，种类多。据史籍记载，直到孙皓降晋时，被王浚收编的战船尚有5000余艘，船种除继承了汉代的楼船、朦艨、斗舰、赤马、先登、斥侯之外，还出现了以“勇力精锐”者充当棹夫，“往来如飞鸥”的走舸；双船连接，履波涛如平地的舫船；用于潜渡的“油船”等。吴国的楼船，形体更加高大。据《三国会要》记载，孙权的“长安”、“飞云”、“盖海”，可载“坐直之士三千人”，蔚为壮观，但实战价值不大。正如《吴志·江表传》所说，“船楼装高，邂逅颠危”。此外，吴国还有一种“舟句舟鹿”船。建安二十四年（公元219年），吴将吕蒙曾昼伏精兵于舟句舟鹿中，“使白衣摇稽作商贾贩”，（《三国志·吴志·吕蒙传》）掩袭江陵成功。
两晋及十六国水军
两晋时期，造船业也有相当高的发展水平。据《晋书·王浚传》记载，西晋灭吴时，在四川造“大船连舫，方百二十步（约170米），受二千余人，以木为城，起楼橹，开四门，其上皆得驰马往来”，可谓“舟楫之盛，自古未有”。此外，还有飞云船、苍隼船、金舡、飞鸟舡等。（《太平御览》卷七百七十·舟部）西晋用上述战船在益州（今成都地区）编练了一支强大的水军，沿长江东下，一直打到吴都建业（今南京），对灭亡吴国，统一南方的作战，起了重大作用。灭吴后，由于收编了吴国水军，西晋水军更加强大。
东晋地处江南，造船业发达，水军也很多。桓玄据荆州时，有一支强大的水军，在与刘毅战于峥嵘洲水域时，曾出动战船200艘。据《晋书·成帝纪》记载，陶侃、温峤、庾亮、魏该等率有水军4万人。东晋末年，孙恩、卢循海上起义，拥有战船千艘，其中“八槽舰九枚，起四层，高十余丈”。（《太平御览》卷七百七十·舟部）东晋王朝为镇压孙恩、卢循起义军，也大量编练水军。据《宋书·武帝纪》记载，刘裕为南攻番禺卢循起义军，“大治水军，皆大舰重楼，高者十余丈”。当时，在成都割据的蜀汉王刘寿也征集士卒7万余人为舟师，准备顺江东下，进攻东晋。东晋水军不仅在江南活动，而且还北入黄河，如公元369年，桓温引舟师自清水入黄河，舳舻百里。
在北方的十六国，由于地理条件及民族传统等原因，多数只有陆军。地处黄淮的各国则有较多的船只和相当规模的水军。如后赵国君石虎攻段辽时，“以桃豹为横海将军，王华为渡辽将军，统舟师十万出飘渝津”。准备攻前燕国时，“具船万艘，自河通海，运谷豆千百万斛于乐安城（今河北乐亭北），以备征军之调”。但由于缺乏懂得海运的人才，“船夫十七万人，为水所没，猛兽所害，三分而一”。（《晋书·石秀龙上》）前秦苻坚准备伐晋时，也曾在益州组建水军，命“蜀汉之军顺流而下”，以形成“东西万里，水陆并进”之势。这些都说明后赵、前秦皆拥有水军，在扩大其势力范围时，并曾着力于水军的建设。
南北朝水军
从公元420年东晋灭亡到589年隋朝统一的170年间，我国南北分裂对峙，史称南北朝。南朝从420年刘裕伐晋到589年陈朝灭亡，共历宋、齐、梁，陈4朝。刘氏宋国继承东晋，据有长江中下游地区，仍十分注意水军建设，其实力从历次用兵的情况来看，仍不失为强大。如刘裕在晋末几次北上破燕、破齐和灭秦之战，都是以水军为主。以灭后秦之战为例，刘裕分前军为四路，自率主力跟进。前军四路中沈林子、王仲德的两路和刘裕亲统的主力，都是水军。《南史·宋本纪》说，“义熙十三年（公元417年）正月，帝（刘裕）以舟师进讨……率大军入河”。另外宋文帝刘义隆抗击北魏军南进，沿长江建立防线时，“游逻上持于湖（今安徽当涂南），下至蔡州（今江苏南京西南江中），陈舰列营，周亘江边，自采石（今安徽马鞍山西南采石矶）至于既阳（今江苏江阴）六七百里”。（《资治通鉴·元嘉二十七年》）另据《宋书·沈攸之传》记载，刘宋王朝为平定沈攸之的反叛时，曾动用“舳舻二万”、“轻牒一万”参战。《初学记》卷二十五“舟”说，“宋孝武度六合，龙舟翔风以下，三千四十五艘，舟航之盛，三代两京无比。”由此可见水军之兴盛。
萧齐水军的规模也相当大。永元三年（公元501年），萧衍率军东征，有戈船兵七万人。萧齐与北魏对峙时，“战舰塞川”。齐将王敬则举兵反叛朝庭，驱使百姓10万余人为其撑船，其水军之盛可见一斑。萧齐末年，雍州刺史萧衍为夺取政权，除制造大量兵器之外，还砍伐大量竹木，沉于檀溪，以备造船之用。当时机成熟时，萧衍即“出檀溪竹木装柯舰，”进攻建康，建立了梁王朝。
梁武帝末年，降将侯景举兵反叛（史称侯景之乱），双方都动用了大量水军参战。公元550年，侯景遣舟师8000人攻广陵，梁湘东王绎遣王僧辩等率舟师1万人抵抗。承圣元年（公元552年），陈霸先率甲士3万、强弩5000、舟舰2000，由广州入援建康。侯景命侯子鉴率舟鸟舟了千艘阻击，战于江上。陈霸先击败侯景，进入建康，后又废梁敬帝萧方智，即位称帝，建立了陈朝。
陈朝水军的数量仍相当可观。永定元年（公元557年），陈霸先攻王琳，出动舟师2万人。光大元年（公元567年）攻华皎时，吴明彻率舟师3万进击郢州，征南大将军淳于量，又领舟师5万人继之，二者共有舟师8万人。祯明二年（公元588年），为了抵御隋军的进攻，陈朝“出金翅战舰二百艘，缘江上下，以为防备”（《南史·施文庆传》）。陈水军都督周罗喉与郢州刺史荀法率水军守江夏，与东进的十余万隋军相持月余。
综上所述，南朝各国都有一支数量可观的水军，战船少则近千，多则近万，人员则从几万到十数万不等，而且在各次战争中都发挥了自己的作用。
南朝水军的战船较前有所发展，不仅种类多，而且性能好。名称有“飞龙”、“翔凤”、“金翅”、“青雀”、“舴艋”、“舟鸟舟了”、“拍舰”、“火舫”、“水车”等。“舟鸟舟了”是一种形体狭长的轻舟。据《梁书·王僧辩传》记载，侯景据建康与王僧辩作战时，“以舟鸟舟了千艘，并载土，两边悉八十棹，棹手皆越人，去来趣袭，捷过风电”。这是我国历史上桨数最多的一种快速战船。“火舫”和“水车”都是徐世谱建造的。前者是一种火攻船，后者有人认为是车船。徐世谱在梁元帝时领水军，有勇力，善水战，所造器械，“随机损益，妙思出人”。也有人认为南齐大科学家祖冲之发明的“日行百余里”（《南齐·祖冲之传》）的“千里船”才是车船的始祖。因为千里船“不因风水，施机自运”。（《猗觉寨杂记》）据史籍记载，陆纳曾造过几种大型战船，称为“三王舰”、“青龙舰”和“白虎舰”，皆裹以牛皮，高15丈。这些船比前代的楼船更高，防护力也更强。
北朝从太延元年（公元439年）北魏统一北方开始，到永熙元年（公元534年）分裂为东魏、西魏。后来东魏、西魏分别为北齐、北周所取代，北周又灭北齐。公元581年隋取代北周，统一了北方。
五牙舰北朝的第一个朝代北魏，除步、骑兵外，还有相当数量的水军。当其势力进入中原地区后，为了在江淮地区作战和准备渡江，已开始注意建设水军。北魏曾诏令燕、定、相三州造船3000千艘，以防刘宋军北进。以后又陆续降俘了不少南朝水军。但终因水军非其所长，在数量和战斗力上均敌不过南朝。
东魏因南接南朝，且有南伐的打算，所以也相当重视水军的建设。如天保四年（公元553年）曾令郭元建治水军2万人于合肥。此外，江淮间各军经常与南朝征战，也各备水军并收降了部分南朝水军。天保七年（公元556年），东魏派兵10万人攻南朝梁国，部分军队曾渡江围攻建康。此次作战虽以失败告终，但说明东魏水军已有渡江作战能力。
西魏同北魏一样，仍以骑兵为骨干，以步兵为主力，但在与南朝相邻的江汉地区，也有相当数量的水军，北周同样如此。北周宇文邕攻北齐时，其中一路就是杨坚等率领舟师3万人，从渭水进入黄河的。
隋代水军
隋代初期，隋文帝杨广为了吞灭陈朝，统一中国，在全国各地大造舰船，编练水军。仅杨素在永安（今四川奉节）所造的战船就以千计。其中最大的“名曰‘五牙’，上起楼五层，高百余尺，左右前后置六拍竿，并高五十尺，容士兵八百人，旗帜加于上”；其次日“黄龙”，可容百人；还有“平乘”、“舴艋”等。在灭陈战争中，除杨素率领的水军外，还有王世积和燕荣率领的水军，他们都对创立隋朝，统一中国发挥了重要作用。
从三国至隋朝的近400年中，水军的武器没有多大变化，仍然是清一色的冷兵器，但其中的抛射兵器得到较大的发展。弩是陆军和水军通用的一种武器。所谓弩就是安有臂的弓，弓臂上有弩机。弩机外面有一个通（古代叫郭），匣内前面安了挂弦的钩（古代叫牙），钩的后面和照门（古代叫规，亦称望门）相连。照门上刻有定距离的分划，战国的铜弩机匣的下面有板机（古代叫悬刀）。发射时，先将弓弦向后拉，挂在钩上，对正目标后，一扣板机，箭即射出。汉代水军就装备有弩，楼船上开有弩窗，是专门用以发射弩箭的。三国时期，诸葛亮发明了一种新式连弩，称为“元戎”。弩箭为铁制，长8寸。这种连弩一次可连续发射10支箭，提高了发射速度，且轻巧灵便。但射程较近，杀伤力较小。
晋代的弩向大型发展，有“万钧神弩”之称。这当然有些夸张，但比小弩射程远，威力大。据《宋书·武帝纪》记载，晋安帝义熙六年（公元410年），刘裕就是用这种弩连破卢循水师的。
抛车又名发石车或抛石机，也是一种水陆通用武器。相传周代就有了抛车。《前汉书·甘延寿传》张宴注，有“范蠡兵法飞石重十二斤，为机发行三百步”的说法，但《范蠡兵法》早已散佚，无法查考。可靠的记载是《三国志·魏志》，说在公元200年的官渡之战中，曹（操）军用抛车发石，击毁袁（绍）军的橹楼。因发出的石弹在空中飞行时有声，被叫做“霹雳车”。
抛车模型抛车是在一个木架上横设一轴，轴的中间穿有韧性强的长木杆一根作炮杆，杆的一端结上一个用绳索联系的皮窠，另一端结上几十条到百多条绳索。在施放时，将石块放人皮窠里，用很多人各自握绳一条，听号令一齐猛拉，利用杠杆原理和离心作用，把石块抛向敌方。为了移动方便，在架的下面装有车轮。
汉代的楼船上“置抛车”。南朝梁元帝时，徐世谱将抛车装在战船上，称为“拍船”。（《陈书·侯真传》）拍船在水战中曾发挥过重大作用。如侯木真与王琳作战时，“众军施拍纵火，定州刺史章昭达乘平虏大舰，中江而进，发拍中于敌舰。（《陈书·侯木真传》）陈朝吴明彻进攻华皎时，“募军中小舰，多赏金银，令先出当（抵挡）贼大舰，受其拍，贼舰发拍皆尽，然后官军以大舰拍之，贼舰皆碎，没于中流”。（《陈书·华皎传》）
在这段历史时期，除弩和抛车有新的发展以外，在水军武备中，还出现了一种新兵器——拍竿。
东晋初年（公元4世纪），杜弢在四川起义时，曾建立了一支强大的水师，并发明了一种叫做“桔槔”的兵器。“桔槔”本是一种原始的提水工具，春秋时代已经应用。它是利用杠杆原理，在一木柱上支着一横木，横木一端用绳挂一水桶，另一端系上重物，使两端上下运动以提取井水。将这种“桔槔”移用到战船上，横杆一端系上巨石，横杆另一端系上人拉的绳索，就成了一种水战兵器。水战中，当装有“桔槔”的战船接近敌船后，将“桔槔”上的巨石移到敌船上空，然后松开人拉的绳索，巨石靠本身的重力猛然砸下，使敌船毁人亡。它比抛石机打得准，且石弹可反复使用，操纵也比较灵便。东晋杜弢起义军曾用“桔槔”打沉陶侃率领的官军战船多艘。为了对付“桔槔”，官军制造了一种叫“长岐枨”的防御装置，（《晋书·周访传》）即在船的两舷伸出一些长木杆使敌船难以接近。
到南北朝时，“桔槔”改称“拍竿”，普遍装备战船。后人明代李盘在《金汤借箸十二筹》中，对拍竿作了如下描述：“其制大如桅，上置巨石，下作辘轳，绳贯其巅……每迎战，敌船迫逼，则发拍竿击之，当者立碎。”前面说到的隋代“五牙舰”，就装有六具“拍竿”。杨素在灭陈战争中，曾用“拍竿”拍毁陈军战船10余艘。可见“拍竿”是我国古代海军武备中一种威力较大的兵器。
从火烧赤壁之后，在水战中火攻日益增多。当时还没有发明火药，火攻主要是投掷“火炬”和用熔铁倾洒。
在当时的水军中，还出现过一种“枪筏”，即在普通的木筏的四周装上矛头而成，可用以冲撞敌船。或者在木筏上装载易燃物，待枪筏快速冲撞，矛头牢牢扎住敌船后，即用易燃物迅速引燃枪筏与敌船同归于尽，士兵则泅水而还。
在这一时期的水战中，还在江河设置水中障碍。三国时期的吴国和南朝的陈国，都在长江设置拦江铁锁（链）和铁锥，以阻挡对方水军的进攻。西晋和隋朝的水军也采取了一些对付的办法。这方面的情况，后面将要介绍。
总的说来，从三国到隋代，水军兵器不断有所提高和发展，但从性能上说，仍然没有脱离以近距离直接击杀为主的范围。因此，水军的作战方式也仍然是接舷战和撞击战，直到北宋出现火器以前，没有根本性的变化。
据传是诸葛亮撰写的《心书·战道》中对水战有一段精辟论述：“水战之道，利在舟楫。练习士卒以乘之，多张旗帜以惑之，严弓驽以中之，持短兵以捍之，设坚以卫之，顺其流而击之。”