东乡平八郎接到潜伏在旅顺港周围的情报人员报告俄舰队出港的情报后，即率领舰队从圆岛附近出击。日舰12时30分发现俄舰队编队，立即开始接近。但是，经过短时间的互相射击后，又被俄舰队巧妙的战术机动甩掉了。然而，俄国舰队速度太慢，很快又被日本舰队赶了上来。17时30分，双方距离只有7000米，再次接战。这次，日舰队集中火力攻击俄旗舰“萨泽列维奇”号。结果，俄旗舰被多发炮弹击中，俄军统帅威特赫夫特阵亡。其余的军舰见旗舰与日舰展开激战，也都折回来参战。但由于缺乏统一指挥，很快陷入一片混乱，受伤的舰艇谁也顾不了谁而各自逃命。俄舰最后被迫退回旅顺港。
其时，俄国还有一支以3艘装甲巡洋舰为主力的分舰队驻守在海参崴。日俄开战后，该舰队到朝鲜海峡、日本海，后来甚至通过津轻海峡到日本太平洋沿海活动，威胁着日本海上交通线的安全。
开战之初，日联合舰队全力对付俄驻旅顺港的太平洋分舰队主力，只由日第3舰队负责对付俄海参崴分舰队。3月上旬以后，则由日第2舰队司令长官上村中将率领的第2战队的4艘装甲巡洋舰接替第3舰队去对付这支俄国分舰队。海参崴分舰队破坏海上交通线的活动神出鬼没。4月25日，日运输舰“金州”号被击沉在元山海域，百余名官兵丧生。6月间，日运输船“常陆”号、“佐渡”号和“和泉”号又相继被击沉。俄海参崴分舰队甚至一度出现在东京湾外面。
8月14日凌晨，这支令日本人闻风丧胆的俄海参崴分舰队却没有再续往日的辉煌。为策应8月10日旅顺太平洋分舰队主力的突围，俄海参崴分舰队奉命冒险南下。在对马海峡蔚山以东40海里处待命的日上村舰队发现了他们，结果“留里克”号被击沉，“俄罗斯”号和“格罗莫博伊”号遭重创，虽然逃回了海参崴，却丧失了作战能力。
经过黄海海战和蔚山海战之后，无论是海参崴的俄国舰队，还是旅顺口内的俄国太平洋分舰队主力，都转入取防守态势，再没有进行有组织的反攻。
日军大本营见海军迟迟不能解决俄国太平洋分舰队，便决定以陆军发起进攻。日军自朝鲜仁川港登陆成功，一路北上，经汉城、平壤、宣州等地，直至鸭绿江，欲渡江进入辽宁。4月底，由黑木大将统率的日本第1军，以百余门大炮开路，终于渡江成功，击溃俄军扎苏利奇中将的东满支队后，占领了辽宁的九连城、凤凰城，继而前出至太子河，威胁辽阳。5月5日，由奥保巩率领的日本第2军，也开始在辽东半岛貔子窝登陆，26日攻下金州，从陆上将旅顺港的后路切断。5月29日，乃木希典大将所部日军第3军，又在大连登陆成功，进逼旅顺口。
在日本第3军围攻旅顺之际，第2军则调头北上，先在得利寺击退什塔克尔别尔格中将的俄军南满支队，然后乘胜追击，沿铁路线急攻辽阳。5月19日，日军独立第10师团在辽东半岛大孤山登陆成功。该师团后来又与第2军的一个师团合编为第4军，司令为野津道贯上将。该军占领木城出海城。至此，日军第1、第2、第4三个军形成了围攻辽阳的态势。6月20日，日军成立了“满洲军总司令部”，总司令为大山岩上将，统一指挥各军，准备进攻辽阳。
大山岩原准备待第3军攻占旅顺后，回师北上一齐围歼辽阳之俄军。但由于旅顺要塞易守难攻，且不说要塞核心地域，就是外围防御阵地还是在付出了数千人伤亡的代价后，才好不容易突破的。显然第3军已指望不上，大山岩原来的意图已被打乱。他深知日本远远落后于俄国。日军要想取得这次作战的胜利就必须速战速决。
辽阳乃中国东北南部的一个战略要地，对整个战局有重大影响，为俄军必守之地。为此，俄国从腹地源源不断地开来了大批援军。尼古拉二世亦表示，要尽早、尽快地在辽阳地区取得军事上的胜利，以缓和国内的矛盾。此时，俄军在辽阳也已集结起13个师18万人，644门大炮，并布下了三道防线。沙皇特任命库罗帕特金上将为俄满洲集团军总司令。库罗帕特金上将毕业于高等军事院校，参加过无数次对外战争，荣立过战功，具有丰富的作战经验，自1898年起担任陆军大臣。不过此人指挥犹疑、多谋少断，既不信任下级，又不善于组织部队协同作战。俄军后来作战之失利，盖源于此。
此时，攻打辽阳的日军总兵力也已达12万之众，大炮近500门。8月24日凌晨，战斗打响。日军第1军首先向俄军左翼迂回，第2、第4军则继而从正面发起攻击。这一仗打得极为惨烈。一连交手数日，也未见出分晓。8月30日，日军发起了总攻，直杀至9月3日凌晨，俄军因人数众多，已略显出优势。
日军本来兵力劣于俄军，为形成局部优势，几乎把所有兵力都用于直接作战，预备队已经所剩无几。由于连日苦战，伤亡高达2万多人，兵力不足的矛盾愈现突出。此外，弹药也消耗极大，且一时又难以得到补充。大山岩遂决定放弃从俄军侧背迂回包围辽阳的计划，将此部队撤回到太子河左岸。
谁料俄军统兵将领库罗帕特金，却过高地估计了日军持续作战的能力，因担心被围，已无心坚守辽阳。9月3日晨，就在日军撤退行动之前2小时，库罗帕特金竟下令放弃辽阳，俄军全线撤至沙河，向奉天退去。
当大山岩接到俄军“秩序井然”撤退的报告后，竟被惊呆。他甚至不敢进城，生怕中了俄军的埋伏。直到他派出少量先头部队，小心翼翼地进入辽阳，确知俄军已退至奉天后，才于9月7日进入城区。事后，他感慨地对英国随军记者说道：“俄军撤退得太熟练了。”
辽阳决战，对整个战局有着决定性意义。经过近十天的作战，已使日军折损24000人马，俄军伤亡还不到2万人。这本来更加拉大了日俄两军兵力的差距，使俄军取得了获胜的把握。但眼看到手的胜利，却这样被腐败无能的俄军高级将领拱手转给日军。从此不少俄军高级将领，对解救旅顺要塞已彻底绝望。
沙皇得报后甚为恼火，想不到自己信任之将领，竟如此无用。随令库罗帕特金整饬军旅，预备反攻，重夺辽阳城。及至10月初，俄军已集起21万人马，火炮758门，开始向日军进攻。日军也已调集了12万人马，火炮488门。双方在沙河地区展开激战，几度交手，互有胜败，成为对峙之势。这时，日军决计将后备力量全数压上，先去攻占旅顺。攻打旅顺之役，自8月19日起，直打了四个多月，乃是日俄战争中为时最久的战役。
旅顺港有一套比较完整、坚固的防御工事。清朝北洋水师修建这个港口时，就已经建筑了各种永备炮台29座，配备大炮150多门。沙俄侵占后，又增修了各种防御堡垒40余座、炮台70余座，配备各种大炮600多门。日俄战争开始时，俄驻守旅顺兵力达3.5万人，另有非战斗的军职人员7000人。斯提塞尔中将任要塞司令。俄国政府曾经吹嘘：旅顺是攻不破的堡垒。
旅顺要塞严重影响着日军在中国东北的行动。不占领旅顺，日军就无法在东北进行大规模的地面作战。负责旅顺进攻作战的是乃木希典统率的第3军。乃木希典是一个战争老手，在甲午战争时参加过攻打金州和旅顺的战斗，对这里的地形比较熟悉。再加上本人又是一个战争狂，出征前夕，竟然自备了三口棺材，准备与两个儿子一道战死疆场，报效天皇。
乃木的第3军，从6月26日占领辽东半岛的最高点剑山、小平岛一带后，到7月底占领凤凰山一带高地，将俄军完全压缩到旅顺口要塞内，完成了对要塞包围的作战部署。8月19日黎明时分，终于发起第一次总攻击。在近300门大炮的支援下，日军以第1师团为右翼，向203高地发起进攻；以第9师团为正面，扑向松树山、望台一带；第11师团为左翼，猛攻东鸡冠山。俄军依托坚固的防御工事，进行了顽强的抵抗。日军以5万以上的兵力投入进攻，面对强大的俄军火力，每前进一步，都需付出巨大的代价。乃木见久攻不下，急忙命令各师团组织敢死队进行突击，然而也只是多送几具尸体而已。激烈的战斗持续到24日下午，6天激战，日军死伤15800多人，只换来了两个小小的堡垒。
乃木鉴于第一次进攻的失败，便改用挖掘坑道堑壕、逼近俄军前沿阵地的战法。俄军发现了日军的意图，也掘坑道反击。经20多天的准备，9月19日，乃木命令各师团各自选择攻击目标，对北高地要塞群、水师营南面高地、203高地发射榴弹3.2万发、榴霰弹1万发、小炮弹90万发，然后发起冲锋。俄军把军舰上的大炮卸下来安在陆军阵地上，水兵也投入战斗。经过4天的争夺，日军死伤4800多人，只占领了库罗帕特金炮台和水师营南6个堡垒、3个高地，关键的203高地仍在俄军手中。日军这时弹药告罄，乃木不得不下令延期攻击。但日大本营严令：“速攻下旅顺要塞。”乃木一筹莫展。
9月下旬，日大本营给第3军补充了28寸榴弹炮18门，又增援1个师团的兵力和3个工兵中队（连），继续挖坑道。乃木在大本营的严令下，又于10月26日发动3次攻击，目标为东鸡冠山、松树山、二龙山堡垒群。俄军在堡垒周围拉上铁丝网，通上电流，以48门大炮构成压倒性火力网。4万日军的进攻，在伤亡3800人后，再次以失败告终。
乃木眼看旅顺久攻不克而日军伤亡惨重，又气又急竟病倒了。日本天皇和大山岩总司令又是慰问，又是打气，才使他重新振作起来。但是，旅顺再次攻击失败引起大本营、满洲军总司令部、第3军司令部之间的意见对立。大本营为促使将攻击中心目标改为203高地的作战，11月14日召开了特别的御前会议，要求乃木执行，督促其尽快攻陷旅顺。但是，乃木自以为是，坚持正面作战。
11月26日开始，乃木又组织发起了对旅顺要塞的第三次进攻。这次，他从各师团抽调了3000多人，分成6个大队（营），组成敢死队，实行夜间突袭。这次目标为松树山炮垒。夜色苍茫中，3000名敢死队员以密集队形秘密靠近炮台。俄军早已严密戒备，突然用探照灯光罩住敢死队员，火力随之而来，日军只好退却。几次进攻，几次退却，使乃木意识到正面攻击无法取胜。27日，他下令停止正面进攻，改为夺取203高地。当晚，日军集中全部力量进攻203高地，到28日夜，一度夺取了该高地，但由于后援没跟上，数小时后，又被俄军夺回。
当时，第3军司令部和预备队离前线较远，不能随时了解和增援前线。满洲军总司令部对第3军的这种状态非常恼火。12月1日，大山岩总司令派遣儿玉源太郎来到了旅顺，会见了乃木希典，并转交了他的训令：
1.关于203高地的战况所以不明，大部分应归于统一指挥不得其宜；
2.高级司令部和预备队位置过远，因此，对敌人的反攻丧失了救援时机；
3.明早攻击时，各级司令部应亲自到达适当位置，必须亲自观察地形与时机，不放过成功机会，以期巩固占领。为了以总司令官的名义指挥第3军作战，特差遣儿玉参谋长接替乃木。
于是，乃木暂时让出指挥权，儿玉亲自指挥全军进攻。到12月5日，日军最终以伤亡1.7万多人的代价，攻下了203高地。乃木希典感慨万千，写下了描述这次总攻之艰苦的诗句：“尔灵山巅岂险攀，男儿功名期克艰。铁血覆山山形改，万人同仰尔灵山。”
203高地是旅顺防卫体系中的制高点，占领这个高地，也就控制了整个旅顺市区和港口。日军占领高地后，炮兵部队立即在这里设立观测所，瞄准港内的俄舰射击。经过黄海海战后逃回来的俄国舰队，几乎全部丧失了战斗力。日军发起总攻时，各师团进行的爆破作业仍在继续进行，逐个夺取堡垒。12月18日，日军占领东鸡冠山北堡。至此，俄军凭恃旅顺口天险构筑的难以攻破的53个堡垒一一被拔除，被俄国人称为旅顺俄军防御“灵魂”的康得拉钦科少将也于12月15日被炸死。俄军士气迅速瓦解。
这时，在旅顺城内的要塞司令斯提塞尔将军急得像热锅上的蚂蚁。身边虽有官兵1.5万人、火炮610门、炮弹20.3万发，但终不免战死或被俘。况且城中伤病人员太多，疫病流行，久拖下去终是无力防守。他已无意再战。
1905年1月1日，当日军一部占领望台附近高地、即将大举进攻时，斯提塞尔派出军使，手持白旗，请求投降。消息传来，俄军将士痛哭不已，他们愤怒地毁坏工事和弹药，爆炸声和大火持续了整整一夜。2日，乃木同斯提塞尔在水师营会见，签署俄军投降书，之后俄军献城投降。
乃木原来估计至少还需半个月才能攻克旅顺，俄军的意外投降，使他喜不自禁，彻底地解脱了。这也成了祝贺新年的最好礼物。整个战役之艰苦、人员损失之巨大（总投入兵力13万人，伤亡6万人），使乃木惊喜的心情旋而转化为深深的伤感和愧疚。他在后来的诗中写道：“皇师百万征骄虏，野战攻城尸成山。愧我何颜见父老，凯旋今日几人还！”
日军占领了旅顺口，使得日俄战争发生了重大转折。日军随后便聚起兵力去攻奉天。此时日军第3军的第11师团已被扩编为鸭绿江军（即第5军），转进奉天东南赛马集结。其余4个军也相继北上，集结于沙河一线。攻打奉天的日军总兵力已达25万，火炮近千门。俄军也在奉天周围集结了三个军团，约30万人，火炮近15000门。若论兵力、火力，俱为俄军占优势。但其主将库罗帕特金却胸无韬略，因而优势亦变为劣势。
2月20日，日军全线发起攻击。鸭绿江军和第3军向俄军左右两翼迂回，第1、第2、第4军队从正面牵制俄军。然而俄军统帅却对此毫无觉察，竟轻率地将一军总预备队投入了正面作战，中了日军圈套。是役大战了20日，俄军折损人马12万，于3月9日弃城败逃。奉天遂于3月10日落入日军手中。俄军退往北边，徐图再举。
自从1904年2月开战以来，远在彼得堡的俄国沙皇尼古拉二世，得到的总是战败的消息。原自以为了不得的沙俄，这会儿才晓得了日本实在是不可小觑。于是，他在4月底传下御旨，命令海军立即从波罗的海舰队和黑海舰队中抽调舰只，编成增援舰队开赴远东战场。俄国的官僚机构，办起事来效率极低，生生地误了沙皇的大事。直到6月2日，俄国海军部才宣布由波罗的海舰队组成的太平洋第2分舰队，绕道非洲开往旅顺，去加强俄国在远东处于劣势的兵力。10月中旬，舰队才起锚出发。之后，尼古拉二世唯恐第2分舰队仍不足以抗击日军联合舰队，遂又命令组成太平洋第3分舰队，火速兼程赶往远东。
1905年5月间，先后出发的两支分舰队在越南西贡湾会合，一道向海参崴驶去。此时已大败俄军的日本海军舰队，早已等候在俄舰队必经的对马海峡，日俄两国海军再次开战。