1924年入烟台海军学校学习。

1929年赴英国，先后入格林威治皇家海军学院、朴茨茅斯专科学校学习。

1934年回国，曾任国民革命军海军军舰航海官、副长。

1937年赴德国学习潜水艇技术。

1939年回国后，曾任国民革命军海军第5游击布雷大队大队长、参谋总长办公室海军参谋。

1945年任国民政府驻美国大使馆海军副武官。

1946年起任中国国民党海军进驻西沙、南沙群岛舰队指挥官，海防第2舰队司令。

1948年，与中国共产党驻沪机构取得秘密联系。

1949年4月23日率海防第2舰队舰艇25艘、官兵1271人，于南京笆斗山江面起义，参加中国人民解放军。

1949年9月任华东军区海军第一副司令员。中华人民共和国成立后，任军事学院海军教授会主任、海军学院副院长。1975年5月起任东海舰队副司令员。

1955年被授予少将军衔。曾获一级解放勋章。

1977年8月加入中国共产党。是第一至第三届国防委员会委员。

1979年7月16日

1955年被授予少将军衔。曾获一级解放勋章。

毛泽东接见华东海军司令员兼政委张爱萍（左三）、副司令员林遵（左二）。

在中国海军历史上，一个叫林遵的名字不可或缺。

林遵，1905年生于福建福州，是民族英雄林则徐的侄孙。日本投降后，他率“太平号护卫舰”、“中业”两舰接收南沙群岛，将南沙主岛以所乘军舰舰名改为“太平岛”，并在岛上竖立纪念碑。南京海军指挥学院海军史研究专家高晓星说，如果没有他当初的那些举动，我国南海岛屿现在所面临的处境会更为尴尬。

“南京江面上的壮举”——毛泽东如此盛赞1949年4月23日林遵率国民党海防第二舰队起义。当天华东军区海军成立。那一天，也被定为海军纪念日。

林遵，字遵之，福建省福州市人，1905年生于一个海军世家，他的父亲叫林朝曦，在清政府先后任海军艇长和海军电雷学校学监，经常教育他以林则徐为榜样，做一个爱国的人。他先在私塾读书，12岁进福州西城小学，毕业后入格致中学，1922年随父亲到南京金陵中学读书，毕业后入烟台海军学校。1926年为响应北伐，组织“新海军社”，在校内宣传革命，抨击军阀。山东军阀张宗昌恼羞成怒，下令逮捕学生，封闭学校。第二年北京政府交通部把烟台海校学生转送到福建马尾海校。1928年林遵在马尾海校毕业，分配到南京鱼雷枪炮训练班当见习生，1930年奉派去英国学习海军，不久转入英国格林威治皇家海军学院，1934年，期满回国，先后在宁海、海容舰当枪炮员，不到半年，被调到福州马尾学校当队长。不久又调任“自强舰”副长，1937年3月以海军武官身份参加“赴英祝贺英皇乔治六世加冕典礼特使团”赴英，5月，又奉命去德国接收向德国政府订购的潜艇。