又过了几年，曹操升任丞相，再一次召他担任府中的文学掾职务。司马懿难以推辞，只得就职。他这个崭新的岗位—“文学掾”里的“文学”，不单单是后世所理解的“文学艺术”，而是汉代察举科目“贤良文学”里的“文学”，实际上包括了以“经学”为本的内容。汉代官方将“经学”造诣视为选举人才之范本，而非后世的书画辞赋之技。司马懿身为丞相府文学掾，具体的职事应该是负责各州郡明经通学之士的选拔、考核及服务。
那么，以司马懿之学识，他配不配得上这个新岗位呢？《晋书》里写他：
博学洽闻，伏膺儒教。
《太平御览》也引用虞预所著的《晋书》评论他：
上（指司马懿）虽服膺文艺，以儒素立德，而雅有雄霸之量。
这说明他在经学上的造诣确实相当高。他后来在劝谏曹操远征西蜀时，讲了一句“圣人不能违时，亦不失时矣”的箴言，它就是自《易经》中引用而来的。而司马懿晚年所作的《述怀诗》：
天地开辟，日月重光。遭遇际会，毕力遐方。将扫群秽，还过故乡。肃清万里，总齐八荒。告成归老，待罪舞阳。
全诗铿锵激越，文采斐然，可谓“华而且实”。所以，深通国典、畅晓诗文的司马懿出任文学掾，自然是才符其职的。在这个岗位上，他和四方汇聚而来的文人雅士们广为交游，取长补短，打成一片。所以，曹丕、陈群等士人精英才会与他深交为友，并以文化为纽带结成了利益共同体。而且，东海郡儒林高第王朗、王肃父子才会对他高看一眼，和他司马氏结为“门当户对”的姻亲。