1936年9月，父亲高中毕业后未能考上大学，经伯父介绍进入设在南京中山门外的兵工署百水桥研究所当一名练习生。

百水桥在紫金山东侧，风光秀丽、交通便利，但相对僻静，是一个研发兵工科技的理想地点。

俞大维别看“兵工署”的名字似乎不太显赫，但却相当于现时的总装备部加国防科委，在抗日国防体系中具有举足轻重的地位。

时任兵工署署长的俞大维1897年12月生于浙江绍兴，按时下的标准，当属顶尖的“神童”之一。

俞大维5岁启蒙，但他瞒着老师看了许多“闲书”，如《三国演义》《红楼梦》《西游记》《隋唐演义》等。16岁时俞大维考进了上海的复旦中学，当时他们家住在英租界唐山路，邻居中有不少英国家庭。他常常跟附近英国孩子一起玩耍，快乐中练口语，效率特高。从复旦中学跳班毕业时，他相当轻松地获英语科成绩第一名。

中学毕业后，俞大维先后就读于上海的复旦大学和圣约翰大学。18岁时进入复旦预科，他选修了德语、经济、数学、化学等科目。后来因肺病休学，在家养病期间，他又自学了微积分。两年后，他插班考入圣约翰大学三年级。圣约翰大学当时被列入上海的名校之一，课程设置先进，教学质量上乘。除了大多用英语教学之外，圣约翰大学给学生所规定的必修课程中有逻辑学、社会学、国际法、哲学史等，开拓了他的视野。

圣约翰大学的教学楼是少数得以保存到如今的经典教学建筑之一。20世纪90年代初上海图书馆参考借书证之内部借书处就设在那里，因此我借还书之余常去走走。当我走过木制通道跨入大楼时，仿佛能听得到当年圣约翰教授认真且风趣的讲授和莘莘学子们率心领会或大胆质疑的回音。

1918年俞大维21岁时，远渡重洋到美国首屈一指的哈佛大学攻读哲学，仅用三年就拿到博士学位，12门课全是A，并获得谢尔顿旅行奖学金（Sheldon Travel Grant），再前往德国柏林大学继续攻读哲学及数学（数理逻辑）。

在德国学习期间，俞大维曾亲耳聆听爱因斯坦讲授“相对论”，随瑞赫尔（Riehl）教授研读康德的《纯粹理性批判》。

1925年，俞大维写了一篇题为《数学逻辑问题之探讨》的论文，刊登在爱因斯坦主编的德国数学杂志《数学现况》上，成为在这本著名刊物上发表论文的第一个中国人。

取得第二个博士学位后，俞大维便留在德国进行兵器及战略研究，后婉拒美、德等国的高薪聘用，毅然回国效力。

在兵工署工作的12年间，俞大维不但注意国外科技动态，还专门成立了研究部门，开发研制适合中国国情的军械。百水桥研究所便是其中之一。他本人是当时世界上顶尖的弹道专家之一，各兵工厂有重要武器试验必定亲临现场，并对有关技术人员进行点评和指导。

在八年抗战中，兵工署下辖的许多兵工厂生产了大量的武器弹药，保障了正面战场的武器供应。俞大维还以兵工署的名义向国外派了不少研修生，后来，这些人才为新中国国防建设作出了巨大贡献。

世纪之交庆祝中华人民共和国成立50周年之时，中共中央、国务院、中央军委隆重举办表彰为研制“两弹一星”作出突出贡献的科技专家大会。受奖的首席科学家钱学森在讲话中说：“今天我们能交出这样一张成绩单，要特别感恩和怀念三位先贤前辈，第一位就是俞大维先生。例如在场的受奖人任新民、屠守锷、姚相斌、孙家栋、黄纬禄、徐兰如、沈正功及谢光选等均系在俞大维的兵工厂及研究机构工作或资送出国留学培养出来的人才。”在座的党和国家领导人江泽民、胡锦涛等均报之以热烈的掌声。

兵工署百水桥精密研究所建造于1936年，是在全国抗日呼声高涨情势下新设的军用研究机关，其装备及研究水准在20世纪30年代属“尖端”之列。