公元22年10月，年已27岁的刘秀跟李通几个约好，打算利用秋季举行都试阅兵的机会，劫持南阳太守甄阜和郡尉梁丘赐，控制南阳地方部队，发动反抗王莽的武装起义。只是，事情提前暴露了，他们没有忽悠成。
因为这个流产的计划，老李家惨遭灭门，刘秀痛彻心扉。
在中央和地方多处设立部队，多层次管理，让很多人手里拿着刀，是很难控制的，是非常危险的！
刘秀对此既有理论上的高度认识，也有切身的深刻体会。所以，刘秀登基不久，就开始收缴别人的刀，保留着自己手中的这把，并且把它磨快。
他悄悄地，却是狠狠地对地方部队下手：彻底取消。
公元30年8月，正在刚刚平定山东、江淮，朝廷部署讨伐公孙述，而隗嚣公开反叛的关键时机刻，刘秀借政府机构改革之机，宣布撤除各郡国主管军事的武官——都尉，废除各郡国定期训练选拔军士的“都试”制度。
次年3月，他又撤除各郡国轻车、骑士、材官、楼船士等军兵种，让他们回归为民。
在这同时，他还撤除了一些主要负责地方防务的武官，如射声校尉等。
这样，刘秀从体制上、实体上把地方部队完全给废了。
即使因为某种特殊原因，哪个郡国还保有少量的士兵，但由于没有体制上、管理上、训练上支撑，其战斗力就极其微弱了。该郡国要用这点士兵搞小动作，是根本不堪一击的；而郡国因为工作需要用兵，也只能依靠朝廷。
与此同时，出于强干弱枝、以内御外的战略考虑，刘秀下了大力气加强中央部队的建设。
经过一段时间的努力，他采取了多种措施，把中央部队建设得规模庞大，兵种完善，装备精良，作风过硬，同时也是编制繁复，隶属复杂，互相牵制，听命一哥。
简要地说吧，在首先确保帝国一哥和朝廷安全，同时保证整个国家安全的思路指导下，中央部队的战斗力达到了空前强大的程度，主要有四支，其中两支拱卫京城，两支驻扎在地方。
拱卫京城的这两支中，一支是北军，负责京畿地区的警卫，又细分为两部分，一部分由执金吾率领，由缇骑骑兵和执戟步兵组成，专门担任京城内、皇宫外的巡防警戒和皇帝出巡时的护卫仪仗；另一部分是北军的主力，分别由五校尉（屯骑、越骑、步兵、长水、射声）统帅，负责整个京畿地区的警戒和皇帝出远门时的扈从，有时候也奉命出征打仗。一支是南军，也称宫廷宿卫军，主要负责皇宫安全警卫和皇帝侍从，也细分为两部分，一部分由光禄勋率领，其中的少数文官就是皇帝的侍从文官，其中的七支禁军是皇帝的侍从武官；另一部分由卫尉管辖，负责守卫各个宫门和宫内重要部位。
这说起来太饶舌，听起来要头晕了！但有意思的是，刘秀是故意这么做的。
上述两支中央部队之间，及其逐层细分的战斗单位之间不仅互不隶属，互不管辖，而且还互相监督，互相制约，共同对皇帝负责。