胡乾善出生于1911年4月，河南省通许县人。九岁随其父到北京居住。1929年在北京师大附中高中毕业后考入清华大学物理系。当时一些学识渊博、知名的物理学家如吴有训、周培源、萨本栋等教授都在该校执教。1933年他在清华大学物理系毕业后留校作研究生,次年考取河南省官费留英，于当年秋进入英国伦敦大学博伯克学院(Birkbeck College)，从布来克教授(P.M.S.Blackett)研究宇宙射线。1936年由布来克教授的介绍和安排，胡乾善带着仪器到苏联与提弗利斯大学合作，到高加索山4000米高处对宇宙射线进行量测记录。1937年他在英国皇家学会会刊上发表了两篇关于宇宙射线的研究论文。是年夏，他完成了学位论文，通过答辩获得了哲学博士学位。
1937年秋季胡乾善学成回国后，即献身于祖国的高等教育事业。当时正值日本入侵我国，战火遍地，各机关学校多被迫一迁再迁。他在1944年以前先后在东北大学、四川大学、武汉大学等校任教授。他在极为困难的条件下从事科学研究。他曾写了关于宇宙射线能谱的短文一篇送到美国《物理评论》上发表。
1944年底，他应英国学者李约瑟博士(李编写中国科学史巨著，为此1983年我国对李颁发了国家科学一等奖)的邀请到重庆李所主持的中英科学合作馆担任数理与工程顾问，直到李在1946年底离开中国。当时正在抗战时期，胡乾善感到宇宙射线研究难以继续，而国家发展工业，培养技术人才实更急迫，于是从1944年起,就改行从事机械工程的研究和教学工作，在大学里讲授了汽车工程和内燃机等课程。1945年初,担任了重庆中央大学机械系教授。抗战胜利，中大迁回南京后，他还担任了中大机械系主任，并在1948年兼任资源委员会的简任技正。
1950年他以自然科学工作者代表的身份到北京参加了第一届全国科学工作者代表大会，会址在清华大学，周总理亲自到会作了指示，全体代表在中南海怀仁堂受到毛主席的接见，代表们得到很大的鼓舞。
1952年院系调整，胡乾善担任了南京工学院机械系教授、系主任。当时他编著的内燃机教材已由上海中科出版社出版。为着工作需要，他在1954年开始讲授理论力学课程，编写了机械类型的理论力学教材。他在教学中注意教学研究，当时曾写了一篇教学研究的论文:“从辩证唯物论的观点来看理论力学中一些基本概念和它们的讲法”，发表在南工学报上，引起南工基础课教师的重视，对南工基础课的教学研究起了促进作用。1956年他担任了南工教学法委员会的主任委员，领导开展基础课和技术基础课的教学法研究工作。他还担任着教育部工科理论力学教材的编审委员，主编了南工等九校合编的理论力学教材(人民教育出版社出版)。
胡乾善学识广博，治学严谨，具有不断更新知识的精神。自1957年起他对振动理论进行研究，从事非线性振动、随机振动及机械阻抗和模态分析等专题的科学研究和教学工作。文革前培养了数届振动理论方面的研究生，现在仍在指导一般力学的学位研究生。为国家培养力学人才，做出了一定的贡献。
他怀着培养现代化建设人才的强烈愿望，深感振动问题研究的重要意义，在粉碎“四人帮”后，他注意世界科学发展的动向，查阅有关资料、阅读文献，并担任了南京工学院力学研究室主任，领导和积极开展振动理论方面的科研工作，撰写有关论文，参加国内的学术交流活动。近几年来他写的论文有:
随机振动与其研究近况(1978年)
随机振动理论中的首次越过问题(1979年)
振动问题的研究领域、方法与晚近进展(1980年)
振动系统模态分析的时域技术(l981年)
有阻尼线性系统模态分析理论中的一些基本问题(1982年)
自由界面部件模态综合法与其对机床动态分析应用的探讨(1953年)
1983年还为教育部科技司撰写了一篇科技发展预测资料:“振动、冲击与噪声的研究应列为优先发展的领域”一文,已被教育部编印入《对科技规划的建议》之中。
胡乾善年逾古稀。虽听觉不便、但勤奋好学，孜孜不倦，令人敬佩。在业余生活方面，兴越广泛，每日清晨步行到玄武湖，坚持体育锻炼；他不但对声乐颇有兴致，对绘画书法也很有造诣，擅长中国花卉画，善画苍劲挺拔的古松、傲霜斗雪的梅花、污泥不染的荷花及洒脱秀丽的菊花等。他不仅把绘画作为业余爱好，从中得到艺术的乐趣，而且把绘画富于教育之中。例如在他培养的研究生中，有一位研究生，基础理论扎实，学业成绩优异，但在待人接物中，给人有骄傲自大的印象。胡乾善提笔挥毫，画了一幅画，画上有二只雄鹰站在山峰上翘首眺望，画面书写了:“应能高瞻远瞩，但忌目空一切”十二个字，寓意深邃，该生看到这幅画后，倍受教益。胡乾善在高教战线上执教四十余年，对培养青年有强烈的责任感，关心青年的茁壮成长，呕心沥血、教书育人，桃李满天下，为祖国培养了许多工程技术人才，现在他们正在各自的岗位上，为祖国的四化建设发挥着领导和骨干的作用。
鲍恩湛.胡乾善简介[J].力学与实践,1984(05):60.