伯帖木儿，钦察人，至元年间充任哈剌赤，入宫为皇帝护卫亲军，因为人忠勇谨慎而授武节将军，负责左卫亲军都指挥使司事。至元二十四年(1287)征叛逆乃颜时隶属于御史大夫玉速帖木儿麾下，败乃颜于忽尔阿剌河，追至海剌儿河。乃颜部将金家奴、别不古率兵逃走，伯帖木儿随御史大夫玉速帖木儿追击，在札剌马秃河斩杀其将二人，又追至梦哥山，生擒金家奴。
至元二十五年破格授显武将军。是年冬哈丹王叛，伯帖木儿与诸王乃麻歹出兵讨伐，在斡麻站、兀剌河等处，连败哈丹王之阿秃八剌哈赤的军队。哈丹王转战至帖麦哈必儿哈，再度为伯帖木儿军所败。接着在明安伦城击败哈丹王，追至忽兰叶儿，又与阿秃一日三战，斩杀五人，擒副将一人。在帖里揭突然袭击哈丹，伯帖木儿亲身陷阵，身中三十余箭而还，御史大夫玉速帖木儿亲去探视其病，将这次失利，归咎于其他军不援救。世祖亲征，御驾至兀鲁灰河，伯帖木儿领兵随大夫至贵列儿河。哈丹抗拒，伯帖木儿首先出战打退哈丹叛军，擒获驸马阿剌浑。世祖大喜，将所俘叛将兀忽儿之妻赐予他。伯帖木儿军进至霸郎儿，与忽都秃儿干大战，杀其副将五人，生擒曲儿先。九月，伯帖木儿奉御史大夫之命，率所部往纳兀河东等处招降叛党乞答真一千户、达达百姓及女直族之押儿撒等五百余户。
二十六年春正月，班师回朝，后又遣他戍守也真大王之境。五月，海都谋反，侵扰边境，朝廷出兵讨伐，伯帖木儿奉旨率其军先行，至怯吕连河，正遇拜要反叛，伯帖木儿立即派兵讨伐，擒其党羽伯颜，世祖大加奖赏，赐所俘伯颜女茶伦。是年冬，朝廷设立东路蒙古军上万户府，统属钦察、乃蛮、捏古思、那亦勤等四千余户。升伯帖木儿为怀远大将军、上万户，佩三珠虎符。
至元二十七年，哈丹窜入高丽，伯帖木儿奉命同彻里帖木儿进讨。二十八年正月，元军至鸭绿江，与哈丹之子老的交战失利，世祖命乃麻歹、薛彻干等增兵征剿，仍以伯帖木儿为先锋。薛彻干军先至禅定州，击败哈丹，几天后乃麻歹军亦到，合军击败哈丹。伯帖木儿领百骑追至一大河，虏其妻子儿女，继续追击。哈丹尚有八骑，而伯帖木儿只余三骑，且两骑重伤，伯帖木儿单骑追赶至一大山，哈丹逃窜。乃麻歹嘉奖其英勇，上报其功，朝廷赐金带、衣服、鞍、弓矢及银器等物。
至元二十九年，伯帖木儿闻叛王捏怯烈还在濠来仓，率兵袭击，虏其妻子畜产，追至陈河。捏怯烈率二十余骑脱走，伯帖木儿占有其地及所管女直户五百余，世祖命将这些女直人充作渔户。成宗即位后随御驾至上都，每年向伯帖木儿征兵千人，成为定制。