1938年入延安抗大学习参加革命，曾任八路军115师司令部参谋、股长、山东滨海军区司令部科长、山东军大处长、副部长。战争期间根据战斗需要，创造和改进了20余种武器和战斗器材，在战斗中发挥了很大作用。

1947年立大功一次。

1948年1月在组织迫击炮敌前试射时，右臂被炸断。

1950年9月，出席中华人民共和国全国战斗英雄代表会议。

1952年后，历任解放军高级步兵学校部长，炮兵工程学院、华东工程学院副院长，第五机械工业部科学研究院副院长，兵器工业部科技委员会副主任兼秘书长，中国兵工学会第十届理事，中国系统工程学会第一届理事和军事系统工程委员会第一、二届副主任委员，中国空气动力学研究会第一届副会长。

1955年5月被授予二级独立自由勋章和二级解放勋章。

1959年祝榆生进入哈军工炮兵工程系（二系）任副主任。

1960年二系从哈军工分出成立中国人民解放军炮兵工程学院后担任教育长、副院长等职务，主要分管教学科研

为将铮铮铁骨为人磊磊胸怀

“祝榆生是用特殊材料制成的人”，这是所有了解祝榆生的人们的共识。

关于工作，祝榆生置病残身体于不顾，却在科学研究中爆发着令人惊叹的能量。他身边的工作人员深有感触地说：“祝总每顿饭只吃一两多粮食，真不知道他的精力是从哪里来的。”

对待同事，祝榆生平等友善。不少从事三代坦克研制的工作人员都是夜以继日、任劳任怨，他们用朴素的话语表达着对这位总师最真挚的敬意：“看在您老人家的面子上，我们没有奖金也要干好！”

对待生活，祝榆生奉行节俭。由于一只胳膊做饭不便，祝榆生的食谱上经常出现的就是面包、方便面、剩菜剩饭。

对待住房，祝榆生甘居陋室。水泥地板，白粉墙壁，祝榆生却在这里数十年如一日工作不辍，思考不息。由于房屋冬天阴冷，考虑到老人的身体，祝榆生的女儿曾经趁他出差时给邹家华写了一封信，希望组织上能够换一套条件稍好的房子。祝榆生得知此事后，除了将女儿严厉责备一番外，还亲自向邹家华另写了一封信