南宋建立于战火之中，君臣上下对北宋军备松弛有深切体会，不论之后宋高宗的和战态度如何，此时期他知道想要维持皇位就必须加强军队建设，对训练更需着意。因此其在河北、河东和东京周围正规军大部溃散现实面前，于建炎元年（1127）下令在这些要害地区招募弓手，训练弓弩等各种武器，制定详细等级，并派专人负责：
高宗建炎元年六月十七日，枢密院言：河北、河东、京东西、京畿要害控扼及附近去处，每县各添差武臣县尉、本县指挥使各一员。招置土着有家产户籍人充弓手，以五百人为额。县大民众调度有余者，更许增置，不得过一千人，并知县兼领。内沿边知县，仍差武臣。诏：弓手五百人，神臂弓一百人，上等二十人，各两石八斗力；中等二十人，各两石六斗力；下等六十人，各两石四斗力。短桩神臂弓一百人，上等二十人，各三石四斗力以上；中等二十人，各三石二斗力以上；下等六十人，各三石以上。弓箭手三百人，上等六十人，各一石一斗以上或马射九斗；中等六十人，各一石以斗或马射八斗；下等一百八十人，各九斗以上或马射七斗以上，并兼习长枪、柚棍，于内随宜差，兼牌手以充蔽捍，每州四县以上，置准备将领一员、部将一员，总领每旬遍诸县教习，遇统弓手人马出入，依将法。不及四县，令帅司措置。以临近县分兼隶，虽不及四县，而人数及二千人者，依四县法，更不兼附近别县。
一、制定法令，保证正常训练
北宋后期军事训练中法令不严，士兵被私役以致耽误军训情况比比皆是，因此南宋人认为首先应该严禁将领私役士兵，使之能够专心训练，如有违法者，从重处罚，“严行约束所辖州郡及主兵之官，责之程限，使以时招填，精加教阅，毋得冗占。其有奉行不虔者，寘之重典”。绍兴三年（1133），司封员外郎郑士彦建议每州选择将官专主军训，年底比较优劣进行考核，“每州遴选兵官三两员，专主教习，庶责任严而成效速。岁终则较其精粗而赏罚之，如此则兵精而国振矣。”而且地方军政长官应该亲临教场，考察士兵训练，“早晩两教，州委守臣，县委令长，且亲诣教场按阅。如其事艺精强，随事激赏。”
二、实践中总结的训练内容
南宋初年国防形势非常紧张，许多军训方法都是来自于实战经验。名臣李纲指出北宋军事训练的相当内容都不适于战场，建议加以改变：“习弓弩者，不必以斗力，而以射亲中的者为上；习牌枪刀者，不必以中敌，而以勇敢向前者为胜；神臂、筒射、凤凰等弓，可以及远，宜教之使精；兠鍪、金甲，卒伍多不肯披带，宜习之使熟。”
建炎二年（1128），吕颐浩从金兵进攻以两翼骑兵包抄为主的战法中总结经验，认为“万人为军，千人操弩，敌人骑兵骤至奔突，使三百步内强弩并发，人人只发两箭，则敌人必却。”发挥宋军在弓弩训练中的优良传统，保证战阵稳固。
而南宋各屯驻大军是为正规军，训练方法是各屯驻大军单独训练，各部训练方式与侧重点都有不同。同时军队训练成功与否，最好的检验方式就是看实战中的表现。南宋军队经历了初期败多胜少后，逐渐在战场上夺回主动权，其英勇作战是以训练作为保障的，如王彦“尤长于简练士伍，不以修饰为先，而取其轻足鸷果有力者。每破敌，大阅以充军者，盖十之一。故其所部号天下精兵。”这其中韩、岳、吴等名将的训练最为成功。
吴玠、吴璘兄弟防守川蜀地区，绍兴元年（1131），金军攻和尚原，“玠命诸将选劲弓强弩，分番迭射，号‘驻队矢’，连发不绝，繁如雨注。”绍兴十一年（1141）吴璘又提出“叠阵”法：
每战，以长枪居前，坐不得起；次最强弓，次强弩，跪膝以俟；次神臂弓。约贼相搏至百步内，则神臂先发；七十步，强弓并发；次阵如之。凡阵，以拒马为限，铁钩相连，俟其伤则更代之。遇更代则以鼓为节。骑，两翼以蔽于前，阵成而骑退，谓之“叠阵”。
不论是“驻队矢”，还是“叠阵法”在实战中取得那么大成就，这都是平时训练的结果，吴璘曾著《兵法》，很可能在其中阐述了训练方法和内容，但遗憾的是已经无法看到。
岳飞练兵非常严格，“师每休舍，课将士注坡跳壕，皆重铠习之。子云尝习注坡，马踬，怒而鞭之。卒有取民麻一缕以束刍者，立斩以徇。卒夜宿，民开门愿纳，无敢入者。”韩世忠的“背峞军”，更是在训练中选拔出来的精锐之师，“犒赏异常，勇健无比，凡有坚敌，遣背峞军，无有不破者。”
据金朝方面史料记载，绍兴八年（1138），完颜彀英在夺回耀州之役中，注意到“宋人每旦出城，张旗阅队，抵暮而还。道隘，骑不得逞。”因此其趁宋军“出阅”，以伏兵攻击，取得胜利。间接说明驻守在耀州的南宋军队每天都出城进行日常训练，而且持续时间从早至晚，这估计是承袭了北宋早晚二教之法。
然而广大内地军队训练情况相比北宋没有太大变化，绍兴七年（1137）李纲在豫章将辖境内士兵集中训练，但他自己也承认“然皆乌合新募之众，何足倚仗？姑可以张声势耳。”大致在同期，张宁为东南第十二将，看到的依旧是“东南将兵数千，皆瘴乡疲卒，漫不知战，异时多售工于外，纳钱本营，以免教阅，谓之买工。本营月扣将兵请给以为杂费，为之常例。”此时宋金战争已经进行近十年，东南军队训练尚且如此，和平时期状况可想而知。
随着宋金和议达成，南宋进入了相对和平时期，直至海陵王南侵之前，南宋军事训练逐渐松弛。“自讲和以来，将士骄惰，兵不阅习，敌未至则望风逃遁，敌既退则谩列战功，不惟佚罚，且或受赏。方时无事，诏令有所不行，一旦有急，谁能听命以赴国家之难。”
驻扎于鄂州的原岳飞部曲，据李椿所讲，战斗力已经严重下降，缉捕数百盗贼尚且“半年之间，亡失过半。”不堪大用。而新招募的士兵徒有其表，在训练中表现尚可滥竽充数，一旦经历战阵，就知其难堪大用。“新招游手，但可充数，在教场阅习固与人等，一旦遇敌，方知其不堪用，盖徒得其表而不得其心故也。”
近者鄂州大军三千人捕数百之寇，半年之间，亡失过半。内有病患寄留者无可奈何，临阵战殁者犹为尽力，惟是避征逃窜，对敌退怯。小寇尚尔，遇大敌将如何？臣尝诘问差来兵将官，但云绝无旧人，新人不经战阵。其驭众无术，不能自知也。新招之人，所请日不过百金，鄂州食用皆贵，如遇泥雨，日费草履已用其半。又况有随身器甲，时须修整，伏腊之费，一身尚不能给，有妻孥者不得温饱，无可疑也。臣尝与老将郭振议论，振以谓使旧人但执梃随军，亦胜新人坚甲利刃，以其谙练与否耳。况离军之人，又带去子弟甥侄之属，军中无相保之情。新招游手，但可充数，在教场阅习固与人等，一旦遇敌，方知其不堪用，盖徒得其表而不得其心故也。
这与宋高宗、秦桧倡导和议、忽视军备有直接关系，训练质量不高带来的后果就是军队战斗力问题，绍兴三十二（1162），至少南宋陆军在金兵面前表现的就不是一支训练有素、能征善战的军队。
三、方兴未艾的水军训练
南宋定都临安，陆地上远离北方军事势力的威胁，但国都位于钱塘江口，濒临大海，却又直接处在了海防的最前沿。对此，南宋人章如愚有过精辟的分析，他说：
江淮，手足也，海口，咽喉也，京畿，腹心也。钱塘面瞰浙江，去淮有千里之遥，涉海无半日之顷。江淮固要津，守御既备，仓促有惕，未足为腹心之忧。巨海梯航，快风顺水，自海而入，不信宿而自捣吾腹心所在。江淮之师虽列百万，各坚守御，岂能应缓急之援？
加上北方金和蒙古持续不断的军事威胁，沿海必须布置海防。早在建炎元年（1127）秋七月，海州（今连云港市）知州便向朝廷上奏说：“近闻金人于燕山造舟，欲来东南。”到金主完颜亮时期，金朝更拟从海上大举进兵。绍兴三十一年（1161）九月，完颜亮下诏伐宋，金将苏宝衡等率领水军七万，战舰六百余艘拟沿海南下直接进攻南宋首都临安。
金朝灭亡后，蒙古和割据山东的李全、李璮父子，在海防上对南宋造成了新的威胁。崛起于大漠的蒙古帝国不仅占据了中原，更征服了高丽和交趾，在海上对南宋形成了南北向的包围，宋、蒙交战初期，宋方间谍就报告说蒙古在“在胶西造战舰练水军”。
同时南宋沿海的治安形势也比北宋恶化，由于战争连绵，社会局势动荡不安，从南宋初年始在沿海便出现了大股的海盗，严重威胁了海上交通安全，而北宋以来的海上走私活动继续在沿海盛行。为了打击海盗和海上走私贸易，加强海防建设，水军被广泛重视。
建炎元年（1127）通州长官郭凝鉴于“通州地界东北，正系海口，南接大江，最为要害。”在通州建立水军，定时训练。时任宰相的李纲建议在沿江重要区域建设水军，颁布训练规程，“宜仿古制以造战船，上设楼橹可以施弓弩，下运橹棹可以破风涛。颁法式以授之。仍募习水者为水军，以时教阅激赏”，以便在水战中占得先机。不过这只是一个水军建设与训练计划，不久就随着李纲的去职而搁置。
这一时期由于政局不稳和以宋高宗为代表的南宋政府对金一直进行乞和，水军的建设与训练未能得到实质性的进展。建炎三年年末（1129），金兵再次南下，轻易地突破长江防线，攻占临安府后，又一直追击高宗一行到大海，一路没有遇到南宋水军的重大抵抗，这反映了南宋水军建设的薄弱和无力。
此后南宋政府也意识到水军的重要性，绍兴二年（1132）李纲认为“长沙有长江重湖之险，而无战舰水军。”招募、训练水军，“募水军三千人，日夕教习……旌旗戈甲一新，观者如堵。”训练水军取得初步成效。
绍兴六年（1136）右司谏王缙上书：
舟师实吴越之长技，将帅之选既慎矣。而舟船数百，多阁海岸，士卒逾万，未闻训习。欲乞明诏将帅相视舟船损漏者修之，士卒疲弱者汰之。船不必多，取可乘以战斗；人不必众，取可资以胜敌。分部教习，周而复始，出入风涛，如履平地。则长技可施，威声远震，折冲千里之外矣。
政府也接受建议，命令时任沿海制置副使马扩“阅习水军战舰”，期望可以达到“分部教习，周而复始，出入风涛，如履平地。则长技可施，威声远震，折冲千里之外矣。”而且还应有训练手册一类的指导性书籍，李纲写道：“分布战船，依新降教阅水战法式指挥施行。”
绍兴和议之后，直至金完颜亮大举攻宋以前，南宋水军建设与训练发展都比较缓慢。绍兴三十一年（1161）李宝率领水军经由近海攻击金舰队，其舰队也不过是船“百二十艘”，浙江、福建弓弩手三千。
采石之战虽然依靠水军取胜，但是也不能据此断定南宋水军强盛，崔敦礼有首诗名为《至清口闻水阅甚盛边人言辛巳岁敌骑逼淮刘信叔军南岸欲载神劲弩至中流射之求数舟不可得今战舰之盛前未有也因成四韵》，可知至少在高宗时期南宋水军远不是那么强大。