但毛泽东坚辞不授大元帅军衔，也不要勋章。人们向他讲述斯大林被授予大元帅衔的情况，毛泽东说：“苏联有的，我们不一定非要照搬。”
为了让毛泽东接受大元帅军衔，全国人大常委会专门开会进行了讨论，由最高立法机构议决此事。主持会议的委员长刘少奇，知道毛泽东不愿授大元帅的态度，说他个人对此“不能作结论”。有位民主人士提出，“只要人大常委会作出决定，毛主席个人也不好不遵从决议”。但人们最终还是没能说服毛泽东。
不久，总后勤部根据分工和最初拟定的授衔方案，组织军需生产部门参照苏联军队礼服和军装的样式，设计出了元帅、将、校、尉，乃至士兵的各种服装，并制出样装送中央军委审定，随即又被送进了中南海，放置在菊香书屋东面的勤政殿内，让毛泽东等中央领导们审看。
那套最精美的大元帅礼服，是总后勤部指定其所属天津军需工厂的女工们，用纯手工为毛泽东精心制作的。绣制出的大元帅肩章熠熠生辉，肩章由国徽图案和元帅星徽组成。与元帅肩章不同的是，大元帅肩章上的元帅星徽由一圈松枝环绕，肩章上的两个国徽是纯金的。肩章面板上那一层金黄是镀金的，用纯铜丝拉出丝来再镀金。帽徽、星徽、符号等等也都是用纯铜，用金的地方镀金，用银的地方镀银，再描漆。胸前缀着金黄色的绶带和流苏，袖口和衣领绣有金黄色的边饰，裤子的边线处，缀有金黄色和鲜红色的条纹，都用纯金的丝线绣缝。
后来，彭德怀、罗荣桓率总干部部副部长宋任穷、赖传珠，到中南海向毛泽东和其他中央领导人汇报军衔评定方案和授予勋章工作的进展情况，听完汇报后毛泽东说：“你们搞评衔，是很大的工作，也是很不好搞的工作。根据国际国内的经验，我这个大元帅就不要了，让我穿上大元帅的制服，多不舒服嘛！到群众中去讲话、活动也不方便。依我看呀，现在在地方工作的同志，都不评军衔好！”
毛泽东又转身，询问已经转业到地方工作的刘少奇、周恩来：“你们的军衔还要不要评啊？”他们俩摆摆手：“不要评了。”被列入大将名单的李先念、谭震林、邓子恢、张鼎丞也纷纷表态：“不要评了，不要评了。”
在后来实施军衔时，因毛泽东坚辞不授大元帅军衔，“中华人民共和国大元帅”成了我国历史上的一个空衔。
新中国成立前后，为推进我军现代化建设、满足实际作战指挥的需要，党中央开始酝酿实行军衔制度。1955年9月27日下午5时，中南海怀仁堂举行了授予大元帅军衔典礼，这是中国人民解放军第一次实行军衔制。
