林一山同志1911年6月出生于山东省文登县。1931年在济南上中学期间，积极投身抗日救亡运动。1934年6月参加革命工作。1935年9月进入北平师范大学读书，1936年1月加入中国共产党，曾任北平师大地下党中心支部书记，积极组织参与 “一二·九”爱国学生运动。

　　1937年“七七事变”后，时任北平学生大军训地下党总支书记的林一山同志，受山东省委指派，于同年9月前往胶东组织领导抗日武装起义，历任胶东特委常委、宣传部部长、统战部部长、特委书记和胶东区游击司令员。1942年，面对日寇的铁壁合围，他按照八路军总部和山东军区的命令，积极组织反扫荡斗争，粉碎了敌人围剿胶东抗日根据地的图谋。

　　解放战争时期，林一山同志先后任青岛市委书记兼市长，辽南省委书记兼军区政委，辽宁省委副书记兼军区副政委，第四野战军南下工作团秘书长。

　　新中国成立后，林一山同志先后担任中南军政委员会水利部副部长、党组书记，中南军政委员会财经委员会副主任，长江水利委员会主任、党委书记，长江流域规划办公室主任、党委书记，长江流域规划办公室顾问，水利部顾问。1994年离职休养。

　　林一山同志具有坚定的共产主义信念和强烈的事业心。新中国成立初期，为使水利事业更好地服务于国家经济建设，他按照党的安排，投身于治理长江的伟大事业。1950年2月，组建了“长江水利委员会”，积极研究探索中国水利发展和长江流域综合治理与开发。提出治理好长江，首先要科学制订好长江综合治理规划。在毛泽东主席和周恩来总理的直接关怀和支持下，他组织国家有关部门和地方政府，历尽艰辛，费时三年，编制了以防洪为重点、以水资源综合利用为主体、涵盖经济社会建设各个方面的长江流域综合利用规划，对推动长江水利建设和长江流域经济社会发展发挥了重要作用，得到了党中央、毛主席和周总理的充分肯定。从1950年开始，他就着力加强长江堤防建设，1952年积极建议和组织建设荆江分洪工程，仅用75天时间建成该工程，创造了水利工程建设史上的奇迹。他提出要把建设三峡水利枢纽作为治理开发长江的关键性工程。为有计划、有步骤地推动兴建三峡工程，1958年他组织建设了丹江口水利枢纽，该工程不仅是汉江的重要防洪工程，也是今天南水北调的水源工程。1972年，作为三峡工程重要组成部分的葛洲坝水利枢纽工程建设面临重大困难。当时他正患癌症（眼色素瘤）住院治疗。遵照周恩来总理指示，他顾全大局，临危受命，担任国务院葛洲坝工程技术委员会负责人，把葛洲坝水利枢纽建设成为享誉世界的优质工程。早在20世纪50年代，他就提出了从丹江水库自流引水，经华北直达京津的引水线路,也就是正在建设的“中线调水”工程。他还多次深入青藏高原巴颜喀拉山区，寻找一条从西南向西北调水的线路，提出了西部调水方案。

　　林一山同志在半个多世纪的治水生涯中，以自然辩证法指导长江治水理念，通过水利工程的理论与实践，提出优化水库调度和运用延长水库的有效利用；水文与气象相结合做好防汛预报和水库预报调度；加强河势研究，为水利枢纽工程总体布置方案提供良好基础。1953年就提出了水库移民工程的新理念，1975年率先成立长江流域水资源保护专门机构。先后完成了《葛洲坝工程的决策》、《中国西部南水北调工程》、《河流辩证法与冲积平原河流治理》和《林一山论治水兴国》等专著。对水利工程技术理论和长江流域综合治理等方面作出了重要贡献，是当代水利事业专家，长江流域综合利用规划的重要奠基人。

　　林一山同志是中国共产党第八次全国代表大会代表，第五届全国人大常委会委员。