司马懿与陈群、吴质、朱铄并称“四友”。
此后，司马懿更是常谋国事，多出奇策。不久，司马懿转为丞相军司马，建议屯田解决粮食问题，得到曹操的采纳。
司马懿指出，荆州刺史胡修粗暴，南乡太守傅方骄奢，都不应驻守边防，曹操未予重视。同年六月，刘备继取汉中后，派孟达、刘封攻占汉中郡东部的房陵、上庸等地，势力有所扩展。七月，孙权欲攻合肥，魏军大部调动淮南防备吴军。
镇守荆州的关羽，乘此机会率主力北攻荆襄。围魏将曹仁，水淹于禁七军，斩庞德。胡、傅二人果然乘机降蜀。
…………
一时间关羽声势“威震华夏”，因汉献帝在许县，距樊城很近，曹操感到威胁，为避关羽锋芒，一度准备迁都黄河以北。
司马懿和曹椽蒋济及时劝阻说：“于禁被水军所淹，不是战守上的失误，对于国家的大局并没有大损失，为此而迁都，即是向敌人示弱，又会使淮河汉水一带人心不稳；刘备、孙权外亲内疏，现在关羽坐大，孙权必定更不高兴，把这事告之孙权，使他牵制关羽，则樊城之围自解。”
曹操从其计，孙权果然派吕蒙袭取公安，关羽被其俘杀。
此战利用孙、刘争夺荆州的矛盾，充分运用外交谋略，坐收渔利，不仅挫败关羽的强大攻势，解除了樊城之围，而且也使诸葛亮原定的一路向宛洛、一路出秦川的两面钳击中原的计划无法实现。更重要的是破坏孙、刘联盟，改变了当时的战略格局，曹氏掌握了主动权。
之后，曹操认为荆州遗民及在颍川屯田的军民逼近南方寇贼，想把他们迁走。司马懿认为：“荆楚轻脱，易动难安。关羽新破，诸为恶者藏窜观望。今徙其善者，既伤其意，将令去者不敢复还。”
曹操听了他的建议，没有移民。之前藏窜逃亡者果然都复出归化。
…………
曹操去世，朝野危惧，司马懿管理丧葬诸事，内外肃然。
同年，曹丕即魏王位，司马懿受封河津亭侯，转丞相长史。
当时孙权正率军向西。朝臣们认为樊城、襄阳缺乏粮，不能抵御吴军，请召守将曹仁回驻宛城。
司马懿则认为，“孙权刚刚打败关羽，正是他想和魏国结好的时候，一定不敢为患。襄阳是水陆交通要地，不能放弃。”
曹丕没听其建议，命曹仁放火烧毁二城。
曹氏父子对司马懿总是持怀疑态度，一开始都不听他的建议。
后来孙权果然没来入侵，曹丕悔之不及。
…………
曹丕登皇帝位，史称魏文帝。登基后，任命司马懿为尚书，不久转督军、御史中丞，封安国乡侯。
黄初二年（221年），免去督军官职，升任侍中、尚书右仆射。
接下去，曹丕两次伐吴，都以司马懿镇守许昌，并改封司马懿为向乡侯。黄初六年（225年）二月，转任抚军大将军、假节，领兵五千，加给事中、录尚书事。
司马懿辞让，曹丕说：“吾于庶事，以夜继昼，无须臾宁息。此非以为荣，乃分忧耳。”
同年，曹丕又大兴水军攻吴，仍命司马懿留守，“内镇百姓，外供军资”。
临行，下诏书给司马懿说：“吾深以后事为念，故以委卿。曹参虽有战功，而萧何为重。使吾无西顾之忧，不亦可乎！”
后曹丕由广陵回师洛阳，又下诏对司马懿说：“吾东，抚军当总西事；吾西，抚军当总东事。”
于是司马懿留镇许昌。
在此期间，司马懿纳娶了伏姓女子为妾，伏氏一口气给司马懿生了司马亮、司马胄（伷zhou）、司马京、司马骏四个儿子！
伏氏善生育，而且为男丁，有功，一辈子低调，正妻张春华没有难为她，富贵善终。
…………
曹丕驾崩，享年四十岁。临终时，令司马懿与中军大将军曹真、镇军大将军陈群、征东大将军曹休为辅政大臣。
曹丕对太子曹叡（叡
ui）说：“有间此三公者，慎勿疑之。”
曹叡（叡
ui）即位，改封司马懿为舞阳侯。
孙权得知魏文帝去世后，于八月出兵攻魏。命诸葛瑾、张霸兵分两路进攻襄阳，亲自率军进攻江夏郡。
司马懿击退了孙权，又击败诸葛瑾，并斩杀张霸，斩首千余级。十二月，升任骠骑将军。
…………
太和元年（227年）六月，魏明帝命司马懿驻扎宛城，加督荆、豫二州诸军事。蜀将孟达降魏时，魏朝待其甚厚，司马懿认为他言行倾巧，不可信任。但皇帝不听，任命孟达领新城太守，封侯，假节。
曹丕死后，孟达失宠，蜀丞相诸葛亮即暗中与之通信，图谋叛魏。诸葛亮恐他言行反复无常，想促他速叛，知魏兴太守申仪和他有矛盾，便派郭模到申仪处诈降，有意泄露其事。孟达闻此泄露，准备马上起兵。
申仪将此事密告司马懿后，司马懿怕他突然发难，给他去信，详为慰解，信中说：“将军昔弃刘备，讬身国家，国家委将军以疆场之任，任将军以图蜀之事，可谓心贯白日。蜀人愚智，莫不切齿于将军。诸葛亮欲相破，惟苦无路耳。模之所言，非小事也，亮岂轻之而令宣露，此殆易知耳。”
孟达得信大喜，犹豫不决。
司马懿则暗中率军进讨，诸将见孟达与吴蜀交接，劝司马懿先观而后动。司马懿说：“达无信义，此其相疑之时也，当及其未