司馬懿與陳群、吳質、朱鑠并稱“四友”。
    此后，司馬懿更是常謀國事，多出奇策。不久，司馬懿轉為丞相軍司馬，建議屯田解決糧食問題，得到曹操的采納。
    司馬懿指出，荊州刺史胡修粗暴，南鄉太守傅方驕奢，都不應駐守邊防，曹操未予重視。同年六月，劉備繼取漢中后，派孟達、劉封攻占漢中郡東部的房陵、上庸等地，勢力有所擴展。七月，孫權欲攻合肥，魏軍大部調動淮南防備吳軍。
    鎮守荊州的關羽，乘此機會率主力北攻荊襄。圍魏將曹仁，水淹于禁七軍，斬龐德。胡、傅二人果然乘機降蜀。
    …………
    一時間關羽聲勢“威震華夏”，因漢獻帝在許縣，距樊城很近，曹操感到威脅，為避關羽鋒芒，一度準備遷都黃河以北。
    司馬懿和曹椽蔣濟及時勸阻說：“于禁被水軍所淹，不是戰守上的失誤，對于國家的大局并沒有大損失，為此而遷都，即是向敵人示弱，又會使淮河漢水一帶人心不穩；劉備、孫權外親內疏，現在關羽坐大，孫權必定更不高興，把這事告之孫權，使他牽制關羽，則樊城之圍自解。”
    曹操從其計，孫權果然派呂蒙襲取公安，關羽被其俘殺。
    此戰利用孫、劉爭奪荊州的矛盾，充分運用外交謀略，坐收漁利，不僅挫敗關羽的強大攻勢，解除了樊城之圍，而且也使諸葛亮原定的一路向宛洛、一路出秦川的兩面鉗擊中原的計劃無法實現。更重要的是破壞孫、劉聯盟，改變了當時的戰略格局，曹氏掌握了主動權。
    之后，曹操認為荊州遺民及在潁川屯田的軍民逼近南方寇賊，想把他們遷走。司馬懿認為：“荊楚輕脫，易動難安。關羽新破，諸為惡者藏竄觀望。今徙其善者，既傷其意，將令去者不敢復還。”
    曹操聽了他的建議，沒有移民。之前藏竄逃亡者果然都復出歸化。
    …………
    曹操去世，朝野危懼，司馬懿管理喪葬諸事，內外肅然。
    同年，曹丕即魏王位，司馬懿受封河津亭侯，轉丞相長史。
    當時孫權正率軍向西。朝臣們認為樊城、襄陽缺乏糧，不能抵御吳軍，請召守將曹仁回駐宛城。
    司馬懿則認為，“孫權剛剛打敗關羽，正是他想和魏國結好的時候，一定不敢為患。襄陽是水陸交通要地，不能放棄。”
    曹丕沒聽其建議，命曹仁放火燒毀二城。
    曹氏父子對司馬懿總是持懷疑態度，一開始都不聽他的建議。
    后來孫權果然沒來入侵，曹丕悔之不及。
    …………
    曹丕登皇帝位，史稱魏文帝。登基后，任命司馬懿為尚書，不久轉督軍、御史中丞，封安國鄉侯。
    黃初二年（221年），免去督軍官職，升任侍中、尚書右仆射。
    接下去，曹丕兩次伐吳，都以司馬懿鎮守許昌，并改封司馬懿為向鄉侯。黃初六年（225年）二月，轉任撫軍大將軍、假節，領兵五千，加給事中、錄尚書事。
    司馬懿辭讓，曹丕說：“吾于庶事，以夜繼晝，無須臾寧息。此非以為榮，乃分憂耳。”
    同年，曹丕又大興水軍攻吳，仍命司馬懿留守，“內鎮百姓，外供軍資”。
    臨行，下詔書給司馬懿說：“吾深以后事為念，故以委卿。曹參雖有戰功，而蕭何為重。使吾無西顧之憂，不亦可乎！”
    后曹丕由廣陵回師洛陽，又下詔對司馬懿說：“吾東，撫軍當總西事；吾西，撫軍當總東事。”
    于是司馬懿留鎮許昌。
    在此期間，司馬懿納娶了伏姓女子為妾，伏氏一口氣給司馬懿生了司馬亮、司馬胄（伷zhòu）、司馬京、司馬駿四個兒子！
    伏氏善生育，而且為男丁，有功，一輩子低調，正妻張春華沒有難為她，富貴善終。
    …………
    曹丕駕崩，享年四十歲。臨終時，令司馬懿與中軍大將軍曹真、鎮軍大將軍陳群、征東大將軍曹休為輔政大臣。
    曹丕對太子曹叡（叡
    ui）說：“有間此三公者，慎勿疑之。”
    曹叡（叡
    ui）即位，改封司馬懿為舞陽侯。
    孫權得知魏文帝去世后，于八月出兵攻魏。命諸葛瑾、張霸兵分兩路進攻襄陽，親自率軍進攻江夏郡。
    司馬懿擊退了孫權，又擊敗諸葛瑾，并斬殺張霸，斬首千余級。十二月，升任驃騎將軍。
    …………
    太和元年（227年）六月，魏明帝命司馬懿駐扎宛城，加督荊、豫二州諸軍事。蜀將孟達降魏時，魏朝待其甚厚，司馬懿認為他言行傾巧，不可信任。但皇帝不聽，任命孟達領新城太守，封侯，假節。
    曹丕死后，孟達失寵，蜀丞相諸葛亮即暗中與之通信，圖謀叛魏。諸葛亮恐他言行反復無常，想促他速叛，知魏興太守申儀和他有矛盾，便派郭模到申儀處詐降，有意泄露其事。孟達聞此泄露，準備馬上起兵。
    申儀將此事密告司馬懿后，司馬懿怕他突然發難，給他去信，詳為慰解，信中說：“將軍昔棄劉備，讬身國家，國家委將軍以疆場之任，任將軍以圖蜀之事，可謂心貫白日。蜀人愚智，莫不切齒于將軍