出身博陵崔氏大房。早年历任库部员外郎、天官郎中、凤阁舍人、天官侍郎等职。武周长安三年(703年)，拜相，授凤阁侍郎、同平章事。唐中宗神龙元年(705年)。崔玄暐联合张柬之、桓彦范等人发动神龙政变，拥戴太子李显复辟，唐中宗登基后，因功拜中书令，封博陵郡公。后被武三思和韦后排挤，被夺去实权，晋爵博陵郡王，不久外放为检校益州长史。

　　神龙二年(706年)，武三思以诬陷韦皇后为由将之流放古州，不久病逝于流放途中，时年六十九岁。唐睿宗即位后，追复官爵，赐谥“文献”。

　　开元六年(718年)，配享唐中宗庙廷，后追赠太师。

　　704年(长安四年)，宋璟弹劾张昌宗图谋不轨，崔玄暐也多次进言。不久，武则天患病，避居深宫，不肯召见宰相，只由张易之兄弟侍疾。崔玄暐进言道：“太子与相王足以侍奉汤药，宫廷禁地，不宜异姓人随意出入。”武则天道：“我十分感激您的厚意。”但却不肯采纳。

　　705年(神龙元年)，崔玄暐与桓彦范、敬晖、张柬之、袁恕己等人趁武则天病重，发动兵变，拥立皇太子李显登基，是为唐中宗，因功擢升中书令，封博陵郡公。武则天对崔玄暐道：“别人都是受人推荐，只有你是朕亲手提拔的，你为什么要这么做?”崔玄暐道：“这正是为了报答陛下。”

　　同年四月，唐中宗任命术士郑普思为秘书监，崔玄暐极力劝谏，但不被采纳。后来，武三思多次在中宗面前进谗。中宗采用明升暗降之计，封崔玄暐为博陵郡王，罢去其宰相之职，只让他在每月初一十五上朝面君。不久，崔玄暐又出任检校益州长史，并代理都督之职。

　　706年(神龙二年)，唐中宗听信武三思谗言，贬崔玄暐为均州(今湖北丹江口)刺史。后来，武三思又诬陷崔玄暐等人与驸马王同皎同谋作乱。崔玄暐又被贬为白州(今广西博白)司马，削去封爵。七月，武三思暗中宣扬韦皇后淫乱后宫之事，并嫁祸给崔玄暐等人。唐中宗大怒，将崔玄暐流放古州。[11]崔玄暐在流放途中病逝，时年六十九岁。