魏文帝曹不在位不到七年死去。臨終前他為太子曹叡安排了四個輔政大臣，即曹真、曹休、陳群、司馬懿。曹真和曹休兩個曹氏族人與兩個外姓共同輔政，這四人威望都很高，他們完全可以組成豪華陣容，保護魏明帝，不受外力威脅。

地方將領，以大司馬曹休坐鎮(zhèn)東南，大將軍曹真坐鎮(zhèn)關中，讓司馬懿坐鎮(zhèn)南陽。這樣，軍權仍由曹氏宗族控制。外姓司馬懿雖然也掌握著一部分重兵，但曹真和曹休的威望高于他，兵權也重于他，他們兩人，一個東南，一個西北，把司馬懿夾在中間，使他不敢有非分之舉。

魏明帝特別信任和尊崇曹真，故把鎮(zhèn)守關中對蜀戰(zhàn)爭的任務交給他。太和四年，曹真回洛陽朝見，又升他為大司馬，并賜“劍履上殿，入朝不拜”。后來，曹休、曹真相繼死去，曹氏宗族后繼無人，對蜀戰(zhàn)爭非司馬懿莫屬。

從此，司馬懿開始掌握曹魏軍權。在取得對蜀的勝利后，他率兵消滅割據遼東的公孫淵，成為曹魏舉足輕重的人物。魏明帝在臨終前安排曹爽（曹真長子）、司馬懿為顧命大臣，與之共輔政的曹爽為人軟弱，根本不是司馬懿的對手。經過幾番較量，司馬懿就把他打翻在地，輕易地竊奪了國柄。