抗日战争初期，任中共江浙省委军委书记、豫皖省委书记、八路军武汉办事处高级参谋。1939年7月调任任八路军、新四军皖东北办事处处长。12月任新四军第6支队第4总队总队长兼政治委员，率部与八路军南进支队、苏鲁豫支队一部挺进苏皖边区敌后开辟抗日根据地。1940年8月任八路军第5纵队第3支队司令员。1941年皖南事变后，八路军第5纵队改编为新四军第3师，任第9旅旅长、3师副师长兼苏北军区副司令员。1944年9月任新四军第4师师长兼淮北军区司令员，指挥所部进行了打破日伪军蚕食、扩大解放区的多次战斗，并在日本投降前展开大反攻，收复苏北大片失地。解放战争初期，任华中军区副司令员。因在指挥作战中负重伤，赴苏联治疗。1949年回国后参加渡江战役，并奉命组建华东人民海军，任华东军区海军司令员兼政治委员，创办《人民海军报》和《海军画报》，为人民海军的创立做出贡献。后任第7兵团兼浙江军区司令员、华东军区暨第三野战军参谋长，参与指挥解放浙江沿海岛屿。

　　1954年8月任浙东前线司令员兼政治委员。1955年1月成功地组织了人民解放军首次陆海空联合登陆作战，解放一江山岛，为人民解放军的现代化联合渡海登陆作战积累了宝贵经验。同年秋出任人民解放军副总参谋长。后兼国防工业办公室副主任，国防科学技术委员会副主任、主任，国家科委第一副主任，中央军委科技装备委员会主任，领导战略武器和常规武器的研究、试验与生产，成功地组织了中国第一颗原子弹爆炸试验。1975年后，排除江青!!革命集团的干扰，整顿国防科研事业和国防工业，领导并组织中远程、洲际、潜地核弹道导弹和侦察通信卫星的研制与试验工作。在担任国防科学技术和国防工业领导期间，经常深入科学试验第一线调查研究，及时协调和解决研制工作中存在的各种矛盾和问题，对发展和改进我军现代化武器装备，特别是战略导弹力量和航天事业的建立与发展做出重要贡献。1980年后，历任国务院副总理、国务委员兼国防部部长、中共中央军委副秘书长。

　　是中共第八届中央候补委员(1958年补选)，第十一、第十二届中央委员，第一至第三届国防委员会委员。1987年被选为中共中央顾问委员会常务委员。