司马腾出身司马家族，为西晋诸侯王，生下来就是享受荣华富贵的命。父亲是东海王，高官厚禄，司马腾的孩童生活过得无忧无虑。

　　司马腾年轻时当过冗从仆射，这是他为官之路的开始。身为皇室子弟，官职自然一路晋升。后来，司马腾历任南阳、魏郡太守，任内十分称职，也为人称道。被征召入朝为官，升任太常，太常位列汉朝九卿之首，地位十分崇高，掌管宗庙礼仪。之后又开始参与军事，立下过一些战功，转任持节、宁北将军、都督并州诸军事、并州刺史。

　　304年，正值八王之乱，朝堂动乱。司马腾率军讨伐司马颖，大败王斌军，因此被封安北将军。两年后司马腾进封东燕王，镇守邺城，后又被改封为新蔡王。

　　307年，司马颖之前的部将召集一群人结成强盗，在清河郃县起兵，竟有一千多人追随准备攻打顿丘。曾经也立过一些军功的司马腾，这危机时刻竟然找借口趁机逃跑，守不住城，逃跑途中被人斩杀。司马腾四个儿子，三个儿子和他一同被杀，只有小儿子存活。司马腾和三个被害的儿子司马虞、司马矫、司马绍死后，因盛夏高温尸体腐烂，连尸骨没有找到。