北洋水师于1895年全军覆没后，清廷于1898年在新购一批舰艇的基础上，以原北洋水师官兵为基干重建了北洋水师。这支新的北洋水师在此后的军阀混战中，成为各派军阀争夺的对象，也被当时混乱的形势裹挟，多次分裂、寄人篱下、数易其主，始终没有发展成为一支能够抗御外辱的强大海军。

新北洋水师的主力作战舰艇包括巡洋舰“海天”号、“海圻”号、“海容”号、“海琛”号、“海筹”号，鱼雷炮舰“飞霆”号、“飞鹰”号，驱逐舰“海龙”号、“海青”号、“海骅”号、“海犀”号。

在1900年的八国联军侵华战争中，新北洋水师置身事外，参加“东南互保”协议。4艘海龙级驱逐舰因维修留在船厂，未参加“东南互保”，在打退敌多次进攻后，被八国联军俘获。

1909年，清廷海军部整编全国海军，将能够出海作战的舰艇编为巡洋舰队，内河作战舰艇编为长江舰队。新北洋水师各舰被编入巡洋舰队。

清帝逊位后，巡洋舰队更名为海军第一舰队。“护法运动”期间，第一舰队部分主力舰脱离北京政府，南下广东参加护法，成立护法舰队。“护法运动”失败后，护法舰队主力北上投靠军阀张宗昌，编为渤海舰队，留在广东的小型舰艇编入广东海军。渤海舰队之后被奉系军阀张作霖并吞，编入东北海军，取得过对南京政府海军的几次胜利，东北易帜后改称海军第三舰队。

“九一八事变”后，第三舰队主力被迫寄居青岛，因筹饷问题爆发“崂山事件”，巡洋舰“海圻”号、“海琛”号，训练巡洋舰“肇和”号南下广东，投靠军阀陈济棠，组成粤海舰队。不久，因陈济棠对粤海舰队的打压，“海圻”号、“海琛”号两舰叛离陈济棠，被南京政府收编，“肇和”号之后同其余广东海军舰艇一起被改编为海军第四舰队。留在山东的原东北海军舰艇，在抗战中全部自沉。

当初没有南下参加“护法运动”的部分第一舰队舰艇，于1927年改编为南京政府海军第一舰队。

全面抗战爆发后，第一舰队在损失全部大型舰艇后，舰队人员带着拆卸下来的舰上武器沿长江西撤，在田家镇、石牌等要塞布防阻击日军。抗战胜利后，原第一舰队遗留人员和原汪伪海军人员合并为海防舰队，后因军舰数量增多，拆分为海防第一舰队和海防第二舰队。

1949年4月23日，海防第二舰队部分军舰在南京笆斗山附近江面起义，加入人民解放军，最终编入华东军区海军，成为人民海军的一部分。海防第一舰队和部分海防第二舰队舰艇则随蒋介石集团逃往台湾。