1930年7月底，刘伯承返抵上海，出任中共中央军委参谋长，协助周恩来举办短期军事训练班，训练中共各省、特委负责人和中央机关干部，增强他们开展武装斗争的能力，这是他“第一次从事红色军事教育”。期间，他负责讲授暴动方略和游击战、运动战战术，并为中央军委翻译了《苏军步兵战斗条令》，校译了《苏军政治工作条例》、《游击队怎样动作》等材料，一方面作为训练班教材，一方面发到各革命根据地的红军学校，促进了中国工农红军的早期建设。

1932年1月，刘伯承直接奔赴江西中央革命根据地，接替叶剑英出任中国工农红军学校(实际上是红一方面军红军大学)校长兼政委，直至同年10月中旬调任中国工农红军总参谋长。期间，他针对红军以运动战为主的实际，大力培养运动战人才，贡献卓著。遵义会议后，红军在毛泽东指挥下所向披靡。两相比较，刘伯承深为毛泽东的卓越指挥才能所折服。以后，随着毛泽东军事思想科学理论体系的形成，他更加自觉地宣传和贯彻毛泽东军事思想。

1935年9月，红四方面军总部成立了红军大学(红大)，开设高级指挥科、上级指挥科和上级政治科，由刘伯承调任校长兼政委。当时，正值红四方面军在张国焘独断专行的指挥下，开始大举南下。为治好这支被张国焘带向错误方向的大军，他坚决与朱德等同志站在一起，从整个党和红军生死存亡的大局出发，置个人生死荣辱于度外，积极维护红大中红一、四方面军学员之间的团结，并通过他们影响部队回到正确轨道。

1936年6月，贺龙、任弼时等率领的红二、六军团到达甘孜，与红四方面军会师，随即组建红二方面军。7月初，刘伯承应邀到红二方面军，给指战员作打敌人骑兵的战术报告，提出了提高信心、接敌处置、利用地形、武器运用等方面的基本要则，讲解了打骑兵的队形、追击、有组织的后移以及平时加强演练等问题，深受贺龙钦佩。经他力陈，刘伯承随红二方面军行动，出任方面军红军大学校长，成为我军历史上唯一主持过三大主力红军军事教育的人。