在他看来，地方权力集中到朝廷，还没有完全解决唐中期至五代以来“君弱臣强”的问题，因而进一步采取措施，削弱大臣的权力，使权力完全集中到自己一人手中。他采取的措施之一便是削弱宰相在朝廷中的地位，削夺相权。随后又在百宫中推行“官、职分离，互相牵制”的任官政策。宋代官制中，“官”是品级，“职”是殿阁、馆阁学士一类的荣誉称号，亦没有实际权力，只有由皇帝或中书省“差遣”的临时职务才是实职，即执行实际权力的职务。这种职、权分离，名、实混淆的任官体制，使任何官员都无法集权力、荣誉、威望于一身，权大者并不一定职高，望重者并不一定位显，这就很难形成对皇权的威胁。同样，即使是临时“差遣”的实职，也是按照分权而相互牵制的原则进行安排的。
赵匡胤还在隋唐以来的科举考试制度的基础上加以继承、改革和发展。并规定殿试不再有淘汰制度，只要参加过殿试，都可以有做官的机会，并称其为“天子门生”，即皇帝亲自测试的人都拜皇帝为师，自称是皇帝的门生。同时，赵匡胤还着力改变重武轻文的旧风气。下令修复孔庙，开辟儒馆，沿用老学名儒，以劝励教化。赵匡胤认为，乱世用武，治世用文，进入朝廷的文臣再也不能只是当做点缀摆设，而应切实发挥他们的作用。
随着对文臣的重用，统治集团内部的那种畸形的文武关系得到了调整。原来那些骄横跋扈，视文臣为无用，甚至一言不合就要“砍杀”宰相的武将们不但见了宰相都要恭恭敬敬地唱喏问候，而且自己也在赵匡胤的劝告鼓励下，学着文臣的样子读起书来。
这样，一方面是调整中央与地方、君主与臣下的关系，使地方的行政、财政、军事等等各方面的权力不断地向中央集中，最后又集中到皇帝一个人手中，形成了至高无上的君主集权制；另一方面又开科取士，重文用武，广罗人才，极力扩大这一专制统治的基础。在统一大局已定的情况下，赵匡胤并没有志满意得、忘乎所以，更没有因此而骄逸放纵。这在皇帝中也是非常难得的了。
作为一代明君，赵匡胤的死却成为历史上的一大疑案，史家众说不一，其中也有说是赵光义谋杀的。总之，赵匡胤之死，留下了千古之谜。不过，这样也更增添了这个“宋祖”皇帝的神秘。
公元976年秋天，赵匡胤猝然死去，赵光义则顺利地继承了皇位。
风云名将，王彦超拒太祖