何曾，字颖考，陈郡阳夏（今河南周口市太康县）人，父亲何夔（kuí），是曹魏的太仆，封阳武亭侯。何曾年少时就继承了父亲的爵位，跟其他优秀人物一样，他从小很爱学习，见识广博，在乡里有良好的名声。曹魏时期他出仕做官，多次获得升迁，嘉平（249—254，曹芳的第二个年号）年间任司隶校尉，负责治理洛阳。当时有个叫尹模的人因受宠而恣意妄为、巧取豪夺，非法获得巨额利益，但朝廷内外都惧怕他的威势，不敢向皇上直言。何曾不畏权势，上书弹劾他，因此获得一致好评。
何曾和司马家关系很好，当年司马懿宣称有病不再上朝，何曾也跟着称病引退，直到曹爽被诛才又出来做官。曹魏正元年间（254—256，曹髦的第一个年号），何曾被任命为镇北将军、都督河北诸军事。将要去赴任的时候，司马昭派司马炎和司马攸前去送行。他们兄弟和何曾一边走一边聊，不觉走出了几十里路，到了河北地界。何曾一看都到这么远了，便说要尽地主之谊，命人准备牛羊猪肉等丰盛的食物和美酒，尽情招待司马炎等人，大家都酒足饭饱，很尽兴。
何曾之前在司马昭面前积极谏言，要求立司马炎为世子，这些司马炎都看在眼里记在心头。等司马炎继承王位后，便任命何曾为自己封国晋国的丞相。后来曹魏的皇帝曹奂禅位，何曾与裴秀、王沈等人一起劝司马炎登皇帝位。司马炎登基后，封何曾为司徒，爵位晋升为公，食邑一千八百户，后又晋位为太傅、太宰，并且特批他朝会时可以佩剑穿鞋，乘车上殿，待遇和西汉时的萧何一样。