在沙皇米哈伊尔·费奥多罗维奇·罗曼诺夫治下，第一条沙俄自建的三桅战船于1636年完成。它叫弗里德里克号，但不幸在裏海的处女航中遇风暴沉同。 在俄瑞战争(1656–58)中俄国夺得了在陶格夫匹尔斯和科肯胡森的要塞，将它们命名为鲍里索格莱布斯克和太子德米特里耶夫。Afanasy Ordin-Nashchokin，一名波雅尔在后者的位置上建了船厂，建造向波罗的海航行的船只，之后俄国又败于瑞典而交还了所有得到的土地，在建的船只也都被毁。

俄罗斯帝国海军舰首旗

俄罗斯帝国海军军旗

主条目俄罗斯帝国海军

彼得大帝下令成立了俄罗斯帝国的正规海军。在1696年对抗奥斯曼帝国的亚速海战中，俄国人在沃罗涅日河建造了2艘战列舰，4艘火船，23艘炮舰和1300艘strugs船。在亚速海的要塞被攻占之后，俄国杜马认识到建设一支正规海军的重要性，并且在1696年10月20日，通过了建设海军的法案。这一天被认为是俄罗斯帝国海军的诞生日。

在1700-1721年间的大北方战争中，俄罗斯帝国建造了波罗的海舰队。在1703-1723年间，波罗的海舰队的主要基地都在圣彼得堡和喀琅施塔得。最初，Vladimirsky Prikaz负责造舰。稍后，造舰被交由帝俄海军部负责。

海军宪章(1720)包括了俄罗斯海军的建军理念，指导思想，训练方式和大纲以及其作战原则。彼得大帝，Fyodor Matveyevich Apraksin，Alexey Senyavin，Naum Senyavin和Mikhail Golitsyn对俄罗斯帝国海军的建设起了很大作用。随后俄罗斯帝国海军还在Grigory Spiridov，Feodor Ushakov和Dmitry Senyavin的军事理念下得到了发展。

凯瑟琳大帝时期的俄土战争导致黑海舰队的成立，其基地位于塞瓦斯托波尔和Kherson。从此时期俄罗斯帝国舰队开始进入地中海。1770年开始，Grigory Spiridov的舰队在Chesma之战中，远征多瑙河三角洲，摧毁了奥斯曼土耳其帝国海军，从而在爱琴海获得了绝对性的优势。

在1799年的地中海远征中，乌沙科夫上将扶持了希腊人的七岛共和国，清除了爱奥尼亚诸岛的敌对势力。他的舰队还封锁了法国人在义大利的基地，如热那亚和安科纳，还成功的突袭了那不勒斯和罗马─因为这些功绩，乌沙科夫在21世纪的今天被俄罗斯海军被称为其主保圣人。随后，Dmitry Senyavin成为帝俄海军的指挥者，他不断重申俄国人在亚地里亚海的势力範围，不断骚扰杜布洛夫尼克的海上贸易航道，以及在Athos之战中击溃奥斯曼帝国的海军(1807)。

在1803年到1855年间，俄国水手进行了超过40次环球航行和长距离航行，在对远东的探险中起到了关键作用。俄国人的航海成绩在别林斯高普“发现”南极这一事件中达到了顶峰。（第一个南极发现者在历史上仍有争议，俄国人别林斯高普的可能性最大）。

圣彼得堡的帝俄海军部以镀金的尖塔撑起一个小型船状的金叶片而着名。

儘管帝俄海军有如此辉煌的历史，俄罗斯帝国落后的技术和经济却导致他们在19世纪上半叶的蒸汽船建造领域远远落后于其他西方列强。

在1826年，俄国人建造了他们第一艘蒸汽船Izhora号。在1853年的克里米亚战争中，蒸汽船和帆船相比仍然没有成为海战中的主导。在Sinope之战中，Pavel Nakhimov领导下的帝俄海军成为历史上一次以帆船在重大海战中取胜的海军。

在1854-1855年间的塞瓦斯托波尔之围中，俄国水手展示了如何联合海上和陆上一切力量来防卫海港。儘管俄国人还第一次在波罗的海布设水雷，并解除了太平洋的彼得罗巴甫洛夫斯克之围，塞瓦斯托波尔仍然在有条件的，保留了荣誉的前提下投降。在随后的巴黎条约中，俄国丧失了在黑海常驻海军以及拥有海军基地的权力。

，帝俄海军迅速淘汰了数量庞大的帆船，开始大力建设蒸汽船队。帝俄海军很快建成了铁壳炮舰Opyt号，以及俄海军第一艘铁甲舰，排水量超过一万吨的彼得大帝号（Pyotr Velikiy）。在1877年1月16日斯捷潘·马卡罗夫为历史上第一个在海战中从船上发射鱼雷的指挥官。他也是第一个提出并且监工製造第一艘远洋破冰船叶尔马克号（Yermak）的人，并指挥此船进行了两次北极探险。几乎同一时间，Aleksey Krylov提出了floodability理论。

帝俄海军被普遍视为世界第三大海军。结果帝俄远东舰队在旅顺口之围中被日本联合舰队彻底击溃，这次海战也是水雷第一次被用于攻击行动。随后波罗的海舰队向远东派出的增援舰只在对马海峡海战中几乎被全数歼灭。帝俄海军再一次遭受历史性的惨重失败。海军的失败导致了远东制海权的丧失，使得日本陆军获得了战争的主动权，更直接导致俄国陆军在远东的失败。

战后俄国深受刺激，迅速开始雄心勃勃的重建海军。不过在第一次世界大战期间，尚未回复元气的俄国波罗的海舰队没起到很大的作用。而黑海舰队则在博斯普鲁斯海峡布雷，以防止奥斯曼帝国海军进入黑海。在俄国革命迫使俄国退出一战后，波罗的海舰队撤出了芬兰湾的赫尔辛基和塔林基地，撤回喀琅施塔得。