1954年9月28日,中共中央政治局作出關(guān)于成立黨的軍事委員會(huì)的決議。決議指出,中央政治局認(rèn)為,必須同過(guò)去一樣,在中央政治局和書記處之下成立一個(gè)黨的軍事委員會(huì),擔(dān)負(fù)對(duì)整個(gè)軍事工作的領(lǐng)導(dǎo)。決議決定由毛澤東、朱德、彭德懷、林彪、劉伯承、賀龍、陳毅、鄧小平、羅榮桓、徐向前、聶榮臻、葉劍英組成中共中央軍事委員會(huì),毛澤東任主席,彭德懷主持中共中央軍委的日常工作。
1954年10月31日,黃克誠(chéng)被任命為軍委秘書長(zhǎng),蕭向榮為副秘書長(zhǎng);1956年11月,中共中央軍委再次擴(kuò)大,粟裕、黃克誠(chéng)、陳賡、譚政、蕭勁光、王樹聲、許光達(dá)、蕭華、劉亞樓、洪學(xué)智等被增選為委員。