他“分权制衡”的第一步，就是在建立魏朝之后，立即废除了丞相之制，重设太尉、司徒、司空“三公”之职，不允许任何臣下能够“一手遮天”。对钟繇、华歆、王朗等老一辈的宿望重臣，曹丕把他们一律转升到“坐而论道、华而不实”的三公职位上去休息养老，尽量给足优待；对陈群、司马懿等颍川系新秀骨干，他又将他们安插在尚书台、御史台、九卿署等“起而行道、经纶机务”的职位上去切实效劳，赋予他们实权。这样一来，曹丕便很适当地处置好了朝臣当中“新与旧”的重大问题。
他“分权制衡”的第二步，就是处置曹魏宗室之间“亲与疏”的问题。自古以来，人们都是“亲直系而疏旁系”，而曹丕却反其道而行之。只因他在东宫世子之位时，他的最大政敌恰恰来自他的同胞兄弟。那时，他的三弟曹植以诗文绝妙而名驰儒林，丁仪兄弟及杨修竟奉以夺嗣，“（曹）植既以才见异，而丁仪、丁廙、杨修等为之羽翼。太祖（指曹操）狐疑，几为太子者数矣”（节选自《三国志·魏书·曹植传》）；他的二弟曹彰骁勇善战，身任关中主将，军功卓著，却又与曹植关系甚密，有结党互倚之嫌。所以，曹丕对这两位直系宗室是严加猜防的。他一登基，便将曹植、曹彰逐出京都，夺去实权，终生闲置不用。但江山藩屏，又非宗室而不可倚重。于是，曹丕对曹真、曹休、夏侯尚等旁系宗室引为臂助，因为他们在法统和名分上都不足以威胁自己的皇权。他倚用曹真、曹休、夏侯尚等人，则是为了监控外廷之大臣。以历史实践而证明，曹丕生前这一“亲旁系而疏直系”的权力制衡，还是具有一定效果的。