1982年，新一届军委组成，邓小平担任军委主席，叶帅、徐帅、聂帅为副主席。杨尚昆为常务副主席兼军委秘书长，并任命张爱萍、余秋里、杨得志、洪学智为副秘书长。
三位老帅年事已高，军队具体工作由秘书长以及4位副秘书长具体负责。杨尚昆在新中国成立后，长期担任中央办公厅主任，同时兼任军委秘书长。自1966年中断工作后，1978年恢复工作。1981年重返军队接替耿飚出任秘书长。他虽然离开军队时间是长了些，但他的协调能力还是很强的，出任军委秘书长，应该说是个合适的人选。
余秋里担任副总理一职，1982年上级在他与陈丕显之间，选择谁来接替总政部主任职务。陈丕显长期在地方工作，余秋里在军队实现更长一些，最终决定由他担任总政部主任。
杨得志此时已经担任总参谋长2年，他在1980年从昆明军区司令员调任总参谋长一职，事情相对来说有些突然。在昆明军区工作才1年，上级曾考虑杨勇出任总长，因情况变化。论能力、资历等，杨得志当之无愧。洪学智此时已经担任总后勤部部长，这是他第二次担任该职务。1956年接替黄克诚出任后勤部长，1959年离开部队后，直到1977年返回北京。被安排到国防工办负责常规武器工作2年，这个时间点很特殊，正是对越自卫反击战前后。
说到张爱萍，长期担任副总长、国防科委工作。1980年准备退下来，被选为副总理。干2年后，职务被免，再次提出退下来，上级没有回复他，杨尚昆找他谈话，希望他继续干下去。张爱萍说怎么抓啊？职务都没有了，以什么名义去抓？杨尚昆希望他过到军委这边来。没多久，他接到命令与余秋里、杨得志、洪学智为副秘书长，依然负责全军的武器装备和国防科技工业这个领域。
杨尚昆对他们4位说，中央把军队交给我们5人，谁也不要再提退休的事情，一起再干五年。在这几年里，日常工作都是由他们5个人研究，几位老帅不在，他们的秘书出席便于传达沟通。1987年，除了杨尚昆、洪学智还留在军队继续任职，张爱萍、杨得志、余秋里从一线退下来。