19世纪末，日本对中国发动了非正义的侵略战争——甲午中日战争，中国在这场战争中惨遭失败，这场战争的失败致使中国签订了丧权辱国的《马关条约》，中国半殖民地半封建社会的程度进一步加深。
黎元洪就是在这次海战中险些命丧大海的，但幸运的是他命不该绝于此，从此以后他的仕途畅通无阻。
在甲午战争爆发之前，中国一度处于强国之列，中国的海军实力在世界上也是屈指可数。据当年的海军年鉴之类的书刊可得知，中国的海军实力在当时世界上排名第八位。其实中国当年的军事力量在世界上的声望是很高的，毕竟中国是一个大国，地大物博的清政府在军备上投入了很多财力。清政府的海军装备如果按照武器装备和吨位来做标准的话，那么在世界的排位应该更靠前一些，尤其是北洋海军的实力在当时的世界上更是名列前茅。
北洋海军自1875年开始筹建以来，陆续从英、德等国购进军舰二十五艘。全军由北洋海军提督统领，设有总兵二员，分领左右两翼；下有副将五员，参将四员，游击九员，都司二十七员，守备六十员，千总六十五员，把总九十九员，经制外委四十三员，并相应建立起各种机构，形成一套完整的军事系统。各舰按照吨位大小，分别配备有管带(舰长)、帮带、大副、二副、三副、总管轮、二管轮、三管轮、巡查等职。黎元洪从天津水师学堂毕业后，就奉派到“来远”舰见习。“来远”号系从德国购买回来的新铁甲炮塔舰。经过一年多的见习，提督丁汝昌见黎元洪表现不错，正值广东水师急需管驾人才。1890年3月，便将他调往“广甲”号兵船充当三管轮。
广东水师乃是张之洞所建。张之洞于1884年出任两广总督后，鉴于粤洋战略地位十分重要，海防却十分空虚，就邀集广东的文武官吏、绅士和盐商等共同商议，筹募了一笔经费，请福州马尾船政局造快轮四艘以及河海并用的中型兵船四艘。“广甲”号是福州马尾船政局接受委托后于1887年10月最先建成的铁胁木壳兵船。黎元洪在“广甲”号上负责管理机器的开关、拆洗及保护等事务，附带管理储料、生火之类的事情。由于广东缺少教练人才，“广甲”号在香港船坞雇请西洋工匠修配齐全后，于1890年派往北洋，以便与北洋舰队各舰艇一同操练。船上的管驾人员和兵丁，也都由北洋水师配备。因此，黎元洪得以派往粤洋，在“广甲”号兵舰上供职当差。
清朝政府为了加强海防建设，每隔三年要派遣大臣对北洋海军进行一次大检阅。1891年，是北洋海军成军后第一次校阅之期，清朝政府派遣直隶总督兼北洋大臣李鸿章和山东巡抚张曜前往会校。5月23日，李鸿章率领一大批文武官员由大沽口乘轮船出海。黎元洪因为供职“广甲”舰，也参加了这次检阅。整个校阅历时十八日，周行海道三千多华里。李鸿章、张曜在校阅后向清朝政府报告说：“综阅海军战备，尚能日新月异；目前限于饷力，未能扩充，但就渤海门户而论，已有深固不摇之势。”同时他专折上陈，奏请嘉奖建设海军出力人员，黎元洪亦在汇案奏保之列，得以千总尽先补用。1892年，又被提升为“广甲”舰二管轮。北洋海军自从成军以来，为了履行海防职责，保卫漫长海疆，一年四季都要沿海往来巡视。黎元洪所在的“广甲”舰，几年之中，除了履行巡防粤洋任务外，一直随北洋海军操演。这些艰苦经历，既大大开阔了他的眼界，也确确实实磨练了他的坚强意志。
1893年3月，两广总督李翰章以黎元洪“频年操巡，久历风涛，着有劳绩”，为他请赏五品顶戴，并颁发了功牌。
粤洋兵船继拥有“广甲”舰之后，“广乙”、“广丙”两舰也相继于1890、1891年建成并交付使用。粤洋舰队总算有了一点基础。1893年9月，黎元洪所在之“广甲”舰远航。当舰船巡行到广州的时候，正值孙中山由澳门迁往广州，开设东西药局，一面行医，一面鼓吹革命。粤洋海军军官程奎光、程璧光(“广甲”舰帮带)和孙中山是香山县(今中山市)的同乡，这时已和孙中山结识。他们经常在广州圣教书楼后座的礼拜堂及广雅书局内的南园抗风轩等处聚谈时事政治。有一天，“广甲”舰上黎元洪的同事仇思病倒了，特邀请孙中山到舰上来为仇思治病。孙中山给仇思看病以后，应邀参观兵船上的各个部门，并且与船员相互交谈。他在参观过程中还不失时机地向船员们讲述了民族的危亡，国势的积弱，显现出一些鼓动民族革命的意图。这是黎元洪第一次与孙中山见面，也是第一次听到关于民族革命的宣传。1894年，北洋海军又到了第二次接受校阅之期。清朝政府委派直隶总督兼北洋大臣李鸿章、帮办定安会同校阅。这次校阅从5月7日到27日，历时二十一天。北洋、南洋和粤洋各舰，沿途行驶，操演船阵；或鱼贯而行，或一字排开，操演有度。在威海卫港，“广甲”与“威远”、“敏捷”三船操演风帆，十分便捷。黎元洪自从服役“广甲”舰之后，恪尽职守，兢兢业业，因此深得上司的赏识。
1894年，黎元洪随“广甲”舰北上参加北洋海军第二次校阅。此时，中日之战已初现端倪。
进入19世纪八九十年代，日本经过了明治维新“脱亚入欧”的努力，迅速跻身世界强国之中。由于垂涎英、美、法、德等国在华的巨大利益，也开始加入对暮气沉沉的清王朝的瓜分行列。为此，日本不惜采取各种手段寻衅清朝政府，以制造战端，甚至公开宣称“促成中日冲突，实为当务之急。为实行此事，可以采取任何手段”。1894年，朝鲜爆发东学党起义，清朝政府应邀派兵赴朝平叛。日本抓住这一时机，也迅速向朝鲜集结重兵。一时间，中日双方在朝鲜半岛屯兵对峙，有识之士预感到中日之间的这场恶战似乎已经不可避免。
鉴于中日之间的僵持局面不易打破，直隶总督兼北洋大臣李鸿章遂调动北洋海军源源不断向朝鲜半岛运送陆军。黎元洪所在的“广甲”舰参加校阅后，被命令暂不南下，与北洋海军一起，为向朝鲜运送清军的船只护航。1894年7月25日，日军在朝鲜牙山向清朝政府的援朝陆军发动突然进攻，同时又在丰岛海面偷袭了中国运送援朝清军的“高升”号，中日甲午战争正式爆发。进入9月，李鸿章电令北洋海军提督丁汝昌率北洋舰队主力为向朝鲜运送援兵的轮船护航。9月12日，丁汝昌率领包括“广甲”号在内的十二艘军舰由威海卫军港出发，护送淮军刘盛休部从鸭绿江口登岸，支援在朝清军。16日中午，舰队抵达大东沟海面，“定远”号等主力舰停泊在口外，而由“广丙”等小型战舰及几艘蚊炮船、鱼雷艇护送五艘运兵船入口。16日夜，清兵登岸完毕。北洋舰队准备从朝鲜返航回威海卫基地。
17日上午11时许，当北洋舰队行驶至鸭绿江口外的黄海时，早已等候在那里的日本海军舰队迎面扑来。北洋舰队奋起迎战，黄海大海战打响。
12时50分，北洋舰队旗舰“定远”号主炮首先开炮还击，炮弹呼啸着从日舰“吉野”号上方飞过。几分钟之后，北洋舰队“镇远”号的炮弹击中了日舰“先锋”号。与此同时，北洋舰队提督丁汝昌被爆炸的炮弹震落于指挥台下，旗舰上的信号系统也已经被打坏。丁汝昌不顾个人安危，拒绝进舱避弹，坚持坐在甲板上继续指挥战斗，然而他的指挥口令已无法发出。日本海军用四艘快速舰死死缠住北洋舰队中火力最弱的“超勇”号和“扬威”号，致使两舰先后中弹起火。混战中，几艘日舰绕到了北洋舰队的身后，发起攻击，致使北洋舰队受到两面夹击。但是北洋舰队的官兵上下同仇敌忾，顽强抗敌，与一触即溃的陆军相比，表现得颇为英勇。日舰“赤城”号遭到北洋舰队猛烈的炮火轰击，包括舰长板元在内的所有官兵全部死亡。北洋舰队中弹起火的“超勇”号直到沉没的最后时刻，火炮依然还在发射。
下午14时20分时，炮弹已经用尽的“致远”号与日舰“吉野”号迎头相遇。“致远”号管带邓世昌知道“吉野”号是日本舰队中的主力，于是下达撞沉“吉野”的命令。“致远”号大副陈金揆亲自操作鼓轮，全舰水兵整齐地站立在前甲板上，等待着与敌舰同归于尽的那一刻，上演了近代中国海军史上最为荡气回肠的悲壮一幕。日舰“吉野”号上的日本官兵见“致远”舰上的北洋水师官兵前来殊死一拼，吓得连忙施放水雷。不幸的是，水雷击中“致远”号，除七名水兵获救外，全舰官兵壮烈殉国。管带邓世昌蹈海自杀，以死报国。而他的爱犬忠心耿耿，衔着主人的发辫直到尸体被打捞上来。
“经远”号的指挥舱内，管带林永升的头颅被炸碎，全舰官兵随舰沉入海底。15时30分，北洋舰队中继续坚持作战的军舰仅为四艘，而日舰则为九艘。日舰以其中的四艘围攻北洋舰队的“来远”号和“靖远”号，五艘围攻“定远”号和“镇远”号。“定远”号和“镇远”号都是当时世界上少有的大型铁甲舰，日本海军决心将这两艘军舰击沉，以实现“聚歼清国海军于黄海”的罪恶阴谋。可就在这时，从“定远”号上射来的重磅炮弹击中了日军旗舰“松岛”号上的弹药舱，引起大爆炸。“松岛”号上的一百一十三名水兵被炸上了天，舰上的炮手全部死亡。日本舰队急忙退出战斗，仓皇归航。
黎元洪所在的“广甲”号与北洋海军的“济远”号在第四队。中日双方海军交火后，“济远”号管带方伯谦因舰船累次被敌军炮火击中，渐渐不支，率先挂起不能再战的白旗，退出战斗行列(不过，关于济远舰与方伯谦的讨论，近年来学术界争论较大)，擅自撤离作战水域。“广甲”号管带吴敬荣见“济远”舰撤出战斗，也紧随其后驶离，从而打乱了整个北洋舰队的作战序列。“广甲”号出逃后，沿岸开行，一气驶到大连湾三山岛附近触礁搁浅，进退失据。23日，被日舰“浪速”号和“秋津洲”号发现。吴敬荣害怕被俘，竟然下令毁船，丢下士兵，乘小艇逃走。
黎元洪等十余名官兵见管带逃走，敌舰正向“广甲”号驶来，纷纷跳海逃生。黎元洪不会泅水，不过行前曾在广州买了一件救生衣。幸亏这件救生衣，他才没有葬身鱼腹。在茫茫大海中漂泊了三个小时之后，黎元洪神奇的被海浪推卷到岸边。大难不死的他捡回一条性命，而与他一同投水者只有四个人生还，其余全部葬身大海之中。黎元洪挣扎着上了岸。此时，天色已晚，黎元洪决定先去找一个旅店住下来，然后再作打算。一摸怀里，他发现竟然还有几块银元和一块金表，不由得暗谢天恩。黎元洪拖着疲惫不堪的身躯走了一阵，遇见一位好心的老者，将他领到家中，休息了一夜并换了衣服。第二天早上，善良的老者还招待了黎元洪一顿早饭。黎元洪辞别老者之后，步行前往旅顺。沿途他饿得实在不行了，就挖田地里的甘薯充饥。经过一天半的奔波，他到达了旅顺。
到达旅顺之后，黎元洪被告知旅顺海军基地已经没有空余的名额。无奈之下，他只好从旅顺步行回到天津北塘的家中，听候清朝政府的召用。孰料清朝政府此时正追究“济远”与“广甲”两舰临阵逃脱的责任，方伯谦被处死，吴敬荣被革职留营效力。黎元洪也因此受到牵连，被监禁数月后方才予以释放。
甲午黄海海战成为中国近代海军史上挥之不去的一页。黎元洪以一个海军中下级军官的身份，亲历战争的全过程，虽说不是英勇可嘉，却也是死里逃生。幸甚！黎元洪得以大难不死。悲夫！李鸿章所苦心经营多年的北洋舰队，经此一战而深受重创。
黎元洪获释之后前往上海，等候重新启用。然而，经过黄海与威海卫大战，清朝海军已经元气大伤。甲午败绩，让日本军国主义者有机会开出惊天巨价迫使清朝政府俯首就范。举国上下正为《马关条约》各条款给中华民族带来的灾难而各抒己见，甚至有些争论不休。黎元洪以一个区区的五品千总之职，自然不会引起当局太多的注意。眼看复职无望，黎元洪只得放弃重新回到海军的初衷，开始另谋可以安身立命的生路。
恰逢此时，署理两江总督张之洞在南京设立延才馆，招聘武备人才。黎元洪闻讯后，立即前往南京投奔张之洞。希望凭借平生所学的海军知识，谋得一个相关职务。却不料他从此舍水登陆，成为了一名让历史不能忘记的陆军将领。
中日甲午战争之惨败，确实是中国近代史上的一座分水岭。在此之前，虽然清朝政府也屡被西方列强侵扰和欺辱，但是这一次无疑是空前惨痛的。除却《马关条约》本身的苛刻无理和日本人获胜后趾高气扬的丑态之外，其中还渗透着中华帝国士民微妙的文化心理所发生的变化。此前在中国士人的心目中，有关岛国虾夷的印象和想像，长期滞留在他们的历史记忆之中，“东洋”是不能与“西洋”相提并论的。然而，甲午战争之后，以天朝上国姿态自居的清朝政府却被虾夷小国所击败，不得不签订城下之盟。对现实无奈的耻辱感和文化优势心理的落差感，一下子深深刺痛了国人。正如何启、胡礼垣在《新政始基》中所说：“甲午一役，丧权辱国，遂令二十三省如几上肉，任与国之取求，四万万人如阶下囚，听外人之笑骂。”
甲午乙未之间，充斥朝野的是一片“自强”的声音。被日本的强大军力所打败，首先需要自强的就是建立一支新式的军队。于是，清朝政府开始较大规模地编练新军。1894年冬，胡炳菜奉旨主持练兵事务，先在天津马厂，次年9月转至小站，开始了“小站练兵”。仿西法创练新军，号“定武军”。1895年冬，袁世凯接替胡炳菜继续在小站练兵。袁世凯很快将“定武军”扩大成“新建陆军”，至1905年扩建到六镇，成为一支拥有八九万兵力的新式武装。这是北方的新军。在南方，便是张之洞编练的“自强军”。“自强军”仿德国军制，完全装备了新式武器，聘请德国军人任教官并兼自强军的各级正职，从武备学堂的学生中选拔副职。为延揽人才，张之洞特意在南京设立了延才馆。
1895年春，黎元洪来到南京，经人举荐拜见张之洞。张之洞询问黎元洪在海军服役时的一些情况，并征询他对修建防御工程的意见。黎元洪倾平生所学，详细地回答了张之洞的所有问题。张之洞本是爱惜人才的封疆大吏，见黎元洪器宇轩昂、相貌堂堂，又有真才实学，遂生爱才之心。环顾左右官僚，张之洞夸奖黎元洪说：“我已经很久没有见到黎先生这样老实而又有能力的人了。”当即委派黎元洪监修南京城外的幕府山炮台，兼充自强军翻译，每月薪银八两。