公元192年,曹操初步占领兖州,此时的高柔担心曹操不会安心留守陈留，这里会是一个四战之地，决定投靠高干。适逢父亲死去，高柔便不畏兵劫路远，冒险到蜀地前去应丧，三年后回到了北方。建安九年(204年)，高干与高柔归降曹操，曹操任命高柔为菅县县长。次年高干以并州叛曹，高柔虽然没有参与件事，曹操却想找个理由除掉他并任命他为刺奸令史。

　　在职之后的高柔处法允当，不但处事得当，公平公正，而且每晚看文书到深夜，有时候抱着文书就睡着。曹操对他也大有改观辟他为丞相仓曹属。建安十八年(213年)，曹操称魏公，建魏国，高柔任尚书郎，转拜丞相理曹掾。当时有一个叫宋金的军人在合肥当了逃兵，有人建议当时杀掉他的母亲、妻儿和弟弟，高柔却认为如此重罚只会得其反让更多的士兵选择逃亡，曹操选择听取了他的建议。

　　延康元年十月二十九日，曹丕登坛受禅称帝，立国号为大魏，史称曹魏，改元黄初，改雒阳为“洛阳”，定都于此。因为私底下议论的人多，曹丕下令杀死议论者，赏赐告发者，这种规定让很多人受到了莫有的诬告，高柔于是上书建议联消这项法令，曹丕不没有听从反而下令要以诽谤之罪惩处诬告的人。高柔便在审查每一个告发案件中，都认真地查明虚实，轻的只判罚金。

　　黄初七年(226年)，曹丕想要诛杀鲍勋，杀他的理由只是因为他做了一件有很小过失的事情。高柔知道后坚决不从，曹丕干脆调离高柔，直接指令廷尉执行诏令，不顾群臣反对而处死鲍勋。

　　曹叡继位后，封高柔为延寿亭侯，他上书以儒家的六经为宗旨，尊崇伦理道德的教化，用以勉励学者，应该根据他们学业和品行的优劣，分别对待，不拘常规来安排官职。在去世之前的时，曹叡把曹芳托孤给了司马炎跟曹爽，之后曹爽就掌握了朝廷大权。正始十年(249年)司马懿发动政变，上奏请求免曹爽的大将军职务，郭太后诏令征召高柔假节行大将军事，占据曹爽的军营。曹爽被杀后，高柔晋封为万岁乡侯，也成了曹魏的掘墓人之一。

　　公元263年，高柔去世，享年九十岁，谥元侯，由其孙高浑世袭侯爵。