魏黄初元年（公元220隼）四十一岁
十月，魏受汉禅。曹丕即位，为文帝，任司马懿为尚书，后转督军，御史中丞，封安国乡侯。
司马孚迁侍中，常侍军官，继而转平书郎、给事常侍、黄门侍郎、加骑都尉，后出任河内典农，封爵关内侯，转清河太守。
黄初二年（公元221年）四十二岁
司马懿迁侍中，尚书右仆射。
黄初五年（公元224年）四十五岁
曹丕南巡，改封司马懿为向乡侯，坐镇留守许都，转抚军大将军，假节诫。加给事中，录尚书事。
黄初六年（公元225年）四十六岁
曹丕伐吴，再次让司马懿留守许都。
黄初七年（公元226年）四十六岁
五月，曹丕病重，司马懿同曹真、陈群等受曹丕托孤之任，为曹睿顾命辅政。
十二月，明帝曹睿改封司马懿为舞阳侯。时东吴犯魏。司马懿迎敌，大胜吴军。被迁为骠骑大将军。至此，司马懿可以开府治事～有了自己的办事机构，和统归自己指挥的军队，可以培植自己的力量。吴质称懿：“忠智至公，社稷之臣”。在洛阳声望日隆。
太和元年（公元227隼）四十八岁
六月，曹真忌妒司马懿，为独揽大权，奏请明帝让懿屯兵宛城，主持对吴边境地区的军政事务。
司马孚迁度支尚书，主管军国的收支预算，后迁尚书右仆射，进爵昌平亭侯。
太和二年（公元228隼）四十九岁
正月，蜀诸葛亮犯魏。魏不敌。明帝意诏司马懿驰援。此时，魏新城太守原蜀国降将孟达，又阴谋叛魏投蜀。司马懿当机立断，以迅雷不及掩耳之势奔袭新城平叛。
太和四年（公元230年）五十一岁
司马懿应诏加大将军、大都督，假黄械，协助曹真抵御蜀军。遇雨受阻，班师。
太和五年（公元231年）五十二岁
诸葛亮进犯天水。曹真病死。明帝诏司马懿都督雍、凉二州，抵御蜀军。懿奉行“敛军依险，只守不攻”方针，致蜀兵败。明帝派使臣劳军，赐懿耕地。懿奏请明帝，迁冀州农民到上邦种田，将京兆、天水、南安等地的冶炼业恢复起来。
青龙元年（公元233年）五十四岁
司马懿主持开凿成国渠，修筑临晋破，将陕西西部水利进行治理，灌溉良田数千顷，充实了魏国国力。