生于兹拉托乌斯特（今属俄罗斯车里雅宾斯克州）。1901年参加俄罗斯帝国军队。1903年和1910年先后毕业于莫斯科军事学校和总参学院。参加过第一次世界大战。1917年10月晋升为上校团长。俄国十月社会主义革命后转向苏维埃政权。1917年12月被选为高加索掷弹兵师师长。1918年参加苏俄红军。苏俄内战和外国武装干涉时期，先后任最高军事委员会司令部作战部部长助理、共和国革命军事委员会野战司令部情报部部长、乌克兰陆海军人民委员部第一副参谋长、共和国革命军事委员会野战司令部作战部长，参与制订并组织实施红军反击白卫军及外国武装干涉者的许多重大战略计划。内战结束后，任工农红军第一副参谋长。1925～1940年历任列宁格勒军区司令、莫斯科军区司令、工农红军参谋长、伏尔加河沿岸军区司令、伏龙芝军事学院院长兼政委、列宁格勒军区司令、苏军总参谋长、苏联副国防人民委员等职。1930年加入联共（布）。1940年5月晋苏联元帅。苏德战争爆发后，先后任西方向参谋长、苏军总参谋长，参与制订并组织实施斯摩棱斯克战役（1941）、1941～1942年苏军冬季反攻和总攻等重大战役计划。1942年5月任副国防人民委员。1943～1945年任总参军事学院院长。他具有丰富的司令部工作和军队指挥经验，在巩固和发展苏联武装力量、培养军事干部、总结国内战争经验、发展苏联军事科学等方面作出重大贡献（见沙波什尼科夫的军事思想）。著有《军队大脑》等。