在青海各路叛匪猖獗的同时，留守西宁的原青马军投诚将领们也进行了垂死挣扎。马英等匪首在四处暴乱时，也曾担心留在西宁的青马军投诚将领的安全。赵遂托人带话给马英：“你们随便搞吧。你事情闹腾得越大，我们越安全”。赵遂、谭呈祥、杨修戎等参加我军训练班的青马骨干将领探悉我一军主要将领将于1952年8月某日在西宁湟光电影院召开会议，便商议在电影院里埋上炸药，妄图等一军主要领导集中时制造骇人事件。所幸敌82军参谋长马文鼎临阵动摇，向我一军领导坦白了同伙的阴谋。青海公安总队迅速出动将这些阴谋暴动的马匪军官抓捕关押。一个月后，公安总队对这批阴谋叛乱而抓捕的“青马军”骨干军官区分甄别后，决定对那些罪大恶极者坚决实行秘密镇压，1951年9月23日夜，青海公安总队长刘德彬亲临现场坐阵指挥，把原青马军82军副军长赵遂、100师师长谭呈祥、129军357师师长杨修戎、新编骑兵军军长韩起功等30名罪大恶极，双手曾沾满西路军鲜血的“青马军”骨干军官秘密押往西宁南门外刑场执行枪决。

至1951年底，曾经在青海各地猖狂一时的青马军叛匪被全部肃清。在残酷激烈的平叛战场，青马叛军被击毙近万人。而我军也付出了沉重的代价，仅一军在平叛战斗中伤亡就达1200多人，其中阵亡达580人。加上我地方部队、工作队员和土革积极分子，我方共牺牲近二千人。