日军第2师团第4联队攻下荣成的次日（1月21日），大山岩率日军第一批登陆部队赶至荣成，在城内设立临时司令部。当晚，司令部戒备森严，灯火通明，大山岩主持将军、参谋联席会议，制定了攻占威海卫的作战方案。
1月26日，日本第2军分两路向西进犯。1月29日，日军包围威海南岸炮台群。30日凌晨2时，右路纵队的司令黑木中将把第6师团分为左右翼和预备三队，以大寺少将为左翼队司令，渡边少佐为右翼队司令，攻打南岸陆路炮台，为进攻南岸海炮台开辟道路。联合舰队同时加以配合，“筑紫”“赤城”“摩耶”“爱宕”“武藏”“葛城”“大和”“鸟海”号八舰向南岸炮台、刘公岛东泓炮台及日岛炮台轰击。30日黎明时分，大寺少将指挥的左翼队进至南岸炮台群制高点的摩天岭南侧山脚。上午7时30分，日军放山炮攻击，岭上清军以大炮应战，日军死伤累累。大寺少将亲自督战，下令各队齐头并进，包围摩天岭炮台。日军进入布雷区，地雷到处爆炸，黑烟冲天。日军遂改变战法，先占领西侧山头，然后向摩天岭发起冲锋。战斗中，清军守将周家恩连中数弹，仍率士兵同冲上来的日军搏斗，最后与士兵一起阵亡，摩天岭失陷。大寺登上炮台，得意忘形，一颗炮弹突然飞来，当场毙命。
就在陆岸炮台鏖战之际，清军的海岸炮台也一齐向日军猛击，港内的“镇远”“定远”号也开炮助战。海岸诸炮台中以皂埠嘴、鹿角嘴、龙庙嘴最为著名，皆高筑胸墙，堆树枝巨干以为防御。日军梅泽少佐率领步兵第23联队第1大队炮击龙庙嘴炮台。战斗中，巩军统领总兵刘佩超左腿中弹，丢下守台部队，乘小火轮逃到刘公岛；但守台士兵不退，与敌人拼死作战，几十名士兵壮烈牺牲，龙庙嘴炮台失陷。其后鹿角嘴、皂埠嘴炮台也相继失陷，但两炮台守军奋勇作战，无一后退，最后全部战死。
失陷的皂埠嘴炮台，有口径24厘米的巨炮三尊，如被用来攻击刘公岛和北洋舰队，将对清军极为不利。就在危急关头，丁汝昌令鱼雷艇管带王平，率护军前营官帮带洪占魁、“定远”舰炮手李升及25名士兵乘艇到炮台之下，待机炸掉巨炮。当日军登上炮台，刚刚插上太阳旗的时候，只听得轰隆数声巨响，炮台倒塌，日兵飞入空中。清军鱼雷艇闻声急退，但为时已晚，巨石从空中落下，人艇俱毁。
此时渡边少佐所率的右翼队也攻下了陆上杨峰岭及百尺崖各炮台。清军营官何大勋和右营帮带张友志为国捐躯。日本海军陆战队登上百尺崖炮台，使用清军的大炮猛轰港内的兵舰和日岛、刘公岛的炮台。不久，渡边又攻下前所岭炮台。战斗中，守将徐帮带顽强抵抗，后不幸被俘。日军将他和他的妻子杀死，还将他刚满周岁的儿子芸生在岩石上活活摔死，残忍之至，目不忍睹。
南岸炮台群的鏖战，唯统领刘佩超贪生怕死，临阵逃跑。连在北洋海军中服务的洋员肯宁咸都说：“统领威海卫内陆上六个炮台士兵的长官刘将军，如果论罪，这人真是该杀的。他傲慢而贪婪，彻底地庸懦，真是中国腐败官吏的代表。”为严肃军纪，丁汝昌奉旨将刘佩超在军前正法。
就在日军右路纵队第6师团攻打南岸炮台的时候，日军左路纵队第2师团则绕道攻打威海卫城。威海卫乃北洋舰队的基地，位于山东半岛的东北端，北濒黄海，与辽东半岛的大连相犄角，扼渤海门户。东靠荣成县的成山，西接烟台，港湾呈半圆形，向东北张伸，环抱大海。刘公岛、日岛横列湾口，形同封锁海湾的两扇大门，形势险要。基地筑有炮台25座，分为南岸炮台、北岸炮台、刘公岛炮台和日岛炮台四大群，易守难攻。左路纵队司令佐久间中将把第2师团分为右翼支队、左翼支队、预备队、通信队和军直辖队五队，以步兵第3旅团长陆军少将山口素臣为右翼支队司令，步兵第4旅团长陆军少将伏见贞爱亲王为左翼支队司令。
1月30日凌晨4时50分，左翼支队向威海南部的虎山进击，企图占领山口东面的高地。清军守将刘树德部开炮攻击，双方激烈交火，但终因兵寡不能支持，最后败退，日军进入虎山。日右翼支队则向南、北虎口村进击。守将戴宗骞见日军来势凶猛，撤至北岸炮台，南、北虎口村遂被日军占领。
2月2日上午，日军左右两路纵队在威海卫城外会师。佐久间左马太派侦察队前去窥探威海卫城的动静。得到的报告是：“敌兵或遁芝罘，或走刘公岛，城中已不留只影。”佐久间闻报，即通知部队入城：第6师团步兵第13联队从东门入城，第2师团第17联队第1大队和第16联队第2大队从西门入城，威海卫城陷落。不久又不费一枪一弹占领了北岸炮台。至此，除海湾中的刘公岛、日岛以外，威海卫全为日军占领。日军在威海卫所施的暴行，不亚于在旅顺，他们逐户搜寻财宝，抢劫商店，奸淫烧杀，无恶不作，令人发指。
日本联合舰队将第2军从大连湾护送到荣成湾后，攻打北洋海军基地刘公岛、消灭北洋舰队的计划即已形成。其计划是：第一阶段配合陆军攻占威海卫城及南北两岸炮台，孤立刘公岛；第二阶段对刘公岛及港内的北洋舰队发动海上进击。为迷惑对方，日军一面继续炮击登州，一面散布要占领烟台的谣言。
刘公岛系北洋海军根据地，岛上设有提督衙门、医院及小型修船厂，还有道台及将军衙门。岛内人口不少，为一个小市镇，有各种商店，其中有一家是德国人开设的，还有一个外国俱乐部，专为岛上20多名洋人服务。全岛有东泓、迎门洞、旗顶山、南嘴、公所后和黄岛共6座炮台。
1月28日，日本舰队司令伊东佑亨下达了进击刘公岛的命令。1月30日凌晨2时，本队的“松岛”（旗舰）“千代田”“桥立”“严岛”号四舰和第1游击队的“吉野”“高千穗”“秋津洲”“浪速”号四舰从荣成湾先行，第3、第4游击队的“筑紫”“赤城”“摩耶”“爱宕”“武藏”“葛城”“大和”“鸟海”号八舰随行。此外还有鱼雷艇3队殿后，包括第1艇队六艘、第2艇队六艘、第3艇队四艘。第2游击队的“扶桑”“金刚”“高雄”号3舰，已于前天开至成山角戒严，“天龙”“海门”和“天城”号三舰留在荣成湾待命。
2月3日凌晨，在完成了支援陆军攻打威海卫及南北炮台的任务后，伊东令令第1游击队警戒港口，第2、第3、第4游击队合力攻击刘公岛和日岛两岛炮台。陆军也据海岸各炮台，炮轰港内的清军兵舰。清军还击，巨弹交迸。北洋舰队在丁汝昌的指挥下奋勇作战，多次击退日舰的进攻。
2月4日至7日为威海卫海战第二阶段。日军改变战术，用鱼雷艇偷袭。4日夜，月落天黑，联合舰队的三支鱼雷艇队沿百尺岩附近的海岸，切断海中的铁链防线，闯入港内。第3艇队的22号旗艇先发一枚鱼雷，清舰警觉，乱发步枪还击。日艇急忙施放第二枚鱼雷后，乘黑暗逃向龙庙嘴，途中误触暗礁倾覆，数人溺死。第2艇队的9号、10号艇，越过防御设施，逼近“定远”舰。当时“定远”号停泊在刘公岛铁码头西侧，丁汝昌正在舰上与诸将领开会，忽报敌艇闯入。丁汝昌急忙登上甲板观看，发现左舷正面约半海里处有两个黑影，认定是敌艇，便急令开炮。日艇没有退却，驶至距“定远”号约300米时，10号艇先放一雷，没有发出；后又放一雷，击中“定远”号尾部，慌忙逃走。9号艇驶至距“定远”号约200米时，先射艇尾一雷，后射艇首一雷。“定远”号开炮，9号艇被击中，人艇俱毁。与此同时，“定远”舰底被鱼雷击中，海水涌入，舰身逐渐倾斜。丁汝昌急令砍断锚链，从铁码头西侧向南驶去，在刘公岛岸边的沙滩上搁浅。
5日天亮后，日军再攻刘公岛，出动了22艘舰船，在威海卫口外进行炮击。北洋舰队诸舰与刘公岛、日岛各炮台拼死应战，日舰无法驶入港口，只得停止炮击，退回海外。6日凌晨2时45分，月没夜黑。日军第一鱼雷艇队长秉原平二少佐率领“小鹰”“23号”“13号”“11号”“7号”五艇，由旗艇“23号”领先前进，从铁链防线的间隙进入港口。凌晨4时，日本鱼雷艇驶近北洋舰队。北洋舰队用探照灯两次扫过日艇上空都没有发现敌人，而日艇却借助灯光发现了北洋舰队各舰的位置。“小鹰”驶距“来远”舰150米时，发射前部右舷鱼雷，只听一声巨响，“来远”号被穿透一个数尺宽的窟窿，顷刻间舰身翻转，露出红色舰底。继之，“23号”“11号”两艇施放鱼雷，“威远”号和“宝筏”号也中雷沉没。3艘舰船官兵伤亡300余人，其中包括守备陈景祺，千总陶国珍、陈嘉寿、邱文勋，把总杨春燕等。
北洋舰队连失4艘舰船，军心开始动摇。丁汝昌在旗舰“镇远”号上召开各舰管带会议，给众将鼓劲打气并做出部署：“靖远”“济远”“平远”“广丙”4舰率部与黄岛（刘公岛炮台群之一）炮台配合，向北岸回击；其余各舰与刘公岛、日岛各炮台配合，封锁威海南、北两口。由于此次部署适时恰当，阻止了日舰入港。
2月7日，日本联合舰队再次发动海上进攻。此次伊东变换花招，采用左右两翼进攻的战术，即以第2、第3、第4游击舰队为左翼，炮击日岛；以本队及第1游击队为右翼，全力攻打刘公岛炮台，企图一举攻下刘公岛，全歼北洋舰队。北洋舰队与刘公岛、日岛上的炮台配合，开炮抵御。数分钟后，日本旗舰“松岛”号前舰桥中弹。接着“桥立”号也中弹受伤。8时15分，“秋津洲”号被刘公岛炮台击中。8时20分，“浪速”号煤库中弹。面对北洋舰队的猛烈攻击，进攻刘公岛的日舰气焰大减。
日本联合舰队司令伊东闻各舰受挫，无计可施。正在一筹莫展之际，传令兵报清舰来犯。伊东登上甲板一望，只见十多艘艇船沿海岸向西急逃。原来是北洋舰队的13艘鱼雷艇和“利顺”“飞霆”号两小艇临阵溃逃。伊东急令航速最快的第1游击队之“吉野”“高千穗”“秋津洲”和“浪速”号4舰开足马力穷追。潜逃的15艘中国艇船或搁浅沉没，或被风浪打坏，或被日舰击毁，艇船上幸存的人几乎全被日舰俘获，只有鱼雷艇管带王平逃回烟台。