1920年,他随一位远房亲戚崔雁冰到上海浦东中学读书。读书用功,成绩优异,由于浦东中学实施学分制管理,王淦昌用4年时间完成6年的中学课程,学习期间,积极参加五卅运动。1925年,考进清华大学,师从叶企孙、吴有训这两位中国近代物理学的先驱,把王淦昌引上了实验物理研究的道路。1929年毕业于清华大学物理系,王淦昌进入德国最著名的柏林大学威廉皇家化学研究所放射性物理研究室做研究生,师从因发现重核裂变现象揭开了原子能应用的大门获得诺贝尔奖的举世闻名的女科学家梅特涅教授,并成了她唯一的中国学生。1933年以优异成绩通过了研究所的博士论文答辩。
1934年4月回国,先后在山东大学、浙江大学
1941年,他独具卓见地提出了验证中微子存在的实验方案并为实验所证实。1950年4月,王淦昌应钱三强的邀请,到新成立的中国科学院近代物理研究所任研究员。1951年被任命为副所长,主要领导宇宙线的研究工作。1954年在云南落雪山建立了中国第一个高山宇宙线实验室,很快取得了一批研究成果,引起了国外同行的注意。
1956年秋天,他作为中国的代表,到苏联杜布纳联合原子核研究所担任高级研究员,后来又担任副所长,并且亲自领导一个实验小组,开展高能实验物理的研究。1959年,他在苏联杜布纳联合原子核研究所领导一个研究小组,在世界上首次发现反西格马负超子,把人类对物质微观世界的认识向前推进了一大步。
1961年3月的一天,回国不久的王淦昌,在二机部的部长办公室里,副部长刘杰向他转达了党中央的决定,请他参加领导研制原子弹的工作。王淦昌没有犹豫,当即回答:“我愿以身许国!”这句脱口而出的话是从他心里迸发出来的,他从此隐姓埋名“失踪”了17年。
1964年,他独立地提出了用激光打靶实现核聚变的设想,是世界激光惯性约束核聚变理论和研究的创始人之一,也使中国在这一领域的科研工作走在当时世界各国的前列。
1969年,王淦昌被任命为核武器研究院副院长。在这期间,他又成功地领导了中国前三次地下核试验。
王淦昌参与了中国原子弹、氢弹原理突破及核武器研制的试验研究和组织领导,是中国核武器研制的主要奠基人之一。由于他对中国科学技术事业和国防建设的卓越贡献,曾荣获两项国家自然科学一等奖、一项国家科学技术进步特等奖等多项重要奖励。
王淦昌非常关心中国科学技术,特别是高科技事业的发展。1986年3月,他与王大珩、杨嘉墀、陈芳允一起提出了对中国高技术的发展有重要意义的建议,在邓小平的亲自批示和积极支持下,国务院在听取专家意见的基础上,制定了中国高技术发展的“863计划”,为中国高技术发展开创了新局面。
1984年,他又领导开辟了氟化氪准分子激光惯性约束聚变研究的新领域。
1949年5月参加革命工作,1979年加入中国共产党,历任第二机械工业部(现中国核工业总公司)九院副院长,二机部副部长兼原子能研究所(现中国原子能科学研究院)所长,中国科学技术协会副主席,中国核学会理事长,九三学社中央参议委员会主任,第三届、四届、五届、六届全国人大常委会委员。王淦昌是我国实验原子核物理、宇宙射线及基本粒子物理研究的主要奠基人和开拓者,在国际上享有很高的声誉。在70年科研生涯中,他奋力攀登,取得了多项令世界瞩目的科学成就。
王淦昌多次说过:“要做科学家,不要当科学官。”他以自己的一生诠释了“科学家是有祖国的”,“我愿以身许国!”