司馬懿出仕的時候，他的父親兄長已經(jīng)在曹操帳下好幾年了，一開始因為信仰儒家崇尚正統(tǒng)，自然對宦官之后的曹操持以鄙夷態(tài)度，曾兩次借病拒絕曹操的邀請。但是后來司馬懿被曹操逼著出仕，任職之后又表現(xiàn)的忠貞不二，加上他資質(zhì)才華出眾，又機遇不斷一路遷升。

在公元208年的時候，司馬懿被曹操強召出仕，之后跟隨曹操先征張魯、又攻孫權(quán)，后來輔佐太子曹丕，所出奇策眾多，受到曹丕的重視尊敬。在關(guān)羽“水淹七軍”大破曹軍的時候，曹操曾想過暫時帶著漢獻帝遷都別處，離開離關(guān)羽距離較近的許昌。

曹丕做了皇帝之后的幾年里，司馬懿可謂是平步青云，曹丕對其數(shù)次提拔。最后司馬懿都有點不好意思，于是堅決拒絕曹丕的遷升，曹丕便對他說：“我現(xiàn)在處理國家諸多事宜，每天是夜以繼日的工作，沒有半點休息的時間。如今冊封你可不是對你的獎賞，而是要你替我分憂。”次年曹丕第二次討伐東吳的時候，又對司馬懿說道：“我要是東征孫權(quán)，你就在洛陽負責各項事宜；我要是在洛陽，你就負責東征孫權(quán)?！边@些記載足可見曹丕非常信任司馬懿。

在公元226年的時候，曹丕病重，臨終前召來司馬懿、曹真、陳群等人，對太子曹叡說：“要是有人向你離間這些重臣，一定要謹慎處理，不要隨便懷疑他們。”曹叡即位后，便封司馬懿為舞陽侯。這時候?qū)O權(quán)得到了曹丕病逝的消息，趁機帶著大軍兵分兩路進攻魏國，諸葛瑾進攻襄陽，而自己則率軍攻打江夏。

申儀將此事都告訴了司馬懿，司馬懿怕孟達立刻發(fā)難，于是便送去書信安撫孟達，信上是這么說的：“昔日將軍棄劉備，國家委將軍以疆場重任，諸葛亮散布謠言想要離間我們的詭計，我是絕對不會相信的?！泵线_見到信后，心中猶豫不決。而此時司馬懿則率軍悄然推進，日夜兼程，宛城離孟達相距有一千二百里，司馬懿只用了八天就兵臨城下。又用十六天破城而入，斬下孟達首級，擒獲一萬多叛軍，官員百姓無不對其心服口服。

在公元229年諸葛亮第三次北伐之后的第二年，魏明帝曹叡決定對其還以顏色，于是拜司馬懿為大將軍，命其率軍南下進攻蜀國。司馬懿和張郃、曹真兵分三路向漢中進發(fā)，攻占新豐縣后入駐丹口休整，只是遇到暴雨無法前進，遂班師回朝。

蜀軍秘不發(fā)喪，撤軍退走，司馬懿便率軍追擊，這時楊儀鳴鼓吹角，擺出一副要交戰(zhàn)的樣子，司馬懿以窮寇莫追為由退走。在查看蜀軍營地的時候，看到諸葛亮生前的布置，又找到其生前的書籍和眾多的糧草，便知道諸葛亮確實已經(jīng)死了，對其稱贊道：“孔明真乃天下奇才也。”