他在幼年时曾割草、放牛、帮助农耕。进入小学后，成绩名列前茅。1940年在日本昌平中学就读，成绩特别优秀，教师赞不绝口。1946年返台入台湾大学预科，1947年考入台大政治系。在台大四年的八个学期中，他有七个学期成绩在全系第一。1951年毕业，获学士学位。1952年，参加公务员资格考试合格，遂开始了从政生涯。

开始时，他在基层当税务员、科员。因工作努力，很快升为南投县民政局行政科长。在任上，他经常深入底层，切实帮助解决民众的困苦，深得民众好评，被推举为最优公务人员，开始在政坛崭露头角。1962年，他从南投县政府秘书调升台湾省政府秘书，并担任国民党云林县党部主任委员。1967年，他40岁，被选为“十大杰出青年”。在此期间十多年中，因为工作成绩突出，他曾三次获得蒋中正先生的召见和嘉勉。据新华网台北2013年4月14日电，原国民党高层人士林洋港因病医治无效，于4月13日深夜在台中去世，享年86岁。

1968年，他当选南投县第六届县长。目睹贫民就医困难，他为贫苦村民办理了免费医疗，受惠民众感恩不尽。他又为山区发展交通，发掘土产，帮助民众致富。在他任内，全县道路建设效益占全省第一。

1972年，他被推选为台湾省政府建设厅长。按惯例，这个职务都是由最优秀的县、市长担任。在厅长任内，他有三大政绩：一是全力发展自来水事业，成立自来水公司统一管理全省的自来水资源，将供水普及率从42%提高到84%；二是解决农田水利管理制度，使全省每期稻作节约用水25%以上，且灌溉设施更加完善；三是筹划、设置都市建设基金，设置水污染防治所，办理工业开发区，切实解决农田用地和工业用地的纠纷。可以说，他在任内成就斐然。

1976年，他出任台北市长。1978年，出任台湾省主席。1982年调任“内政部长”。在这十几年内，他在市政建设、经济开发等方面颇多建树。尤其是在“内政部长”任内，他亲自主持了一系列重要工作，如修正平均地权条例

作为国民党的副主席，林洋港九十年代在国民党内的地位和影响都非同一般，党内大部分“国民大会代表”都推举他竞选“总统”。但李登辉抬出党内八大元老出面斡旋，希望林洋港退选。林洋港生性至正大忠，敦厚朴实，他并不计较个人升迁，毅然宣布退选。此举深得各方面赞许。然而，人心叵测。毕生光明磊落行事的林洋港没料到他已被人愚弄，他更没想到还被开除国民党党籍。1994年，他从“司法院长”任上退下，改任伪“总统府资政”。1996年，他以非国民党人身份竞选伪“总统”，终因资源相差悬殊而落选。尽管如此，他虽败犹荣。台湾民众对他的清风亮节益加敬爱，亲切地称他为“阿港伯”。

台湾前伪“总统府”资政、前“司法院长”林洋港13日在家中离世，享寿86岁。林洋港1980及1990年代活跃于台湾政坛，曾被臆测为蒋经国接班人。而他和李登辉之间的瑜亮情结也争了16年。政坛曾有这样的形容：林洋港好似平剧中的青衣，举手投足之间抽象细腻，有象征意义却不易解读；李登辉则如同地方布袋戏，金光闪闪既热闹又直接，让人眼花撩乱、目不暇接。

据台湾《中国时报》报道，林洋港和李登辉同为本省籍、通晓日语、出身贫穷又苦读成功，都是蒋经国“吹台青”政策下的政治明星。林、李专业各有所长，个性却南辕北辙，林洋港谦和玲珑人脉广，李登辉孤傲霸气权谋深；林洋港爱呼朋引伴齐爬山，李登辉却只爱贵族运动小白球。但在台湾面临告别强人政治、迈向民主的关键转折上，早年受两蒋拔擢表现亮眼的林洋港，却因政治视野保守传统，终于不敌李登辉。

1978年夏，一道人事令，种下两人心结：林洋港从台北市长升任“省主席”，“政务委员”李登辉则接