徐司马，字从政，扬州人。元末兵乱，年仅九岁，无依无靠，太祖得到他，收为养子，并赐姓。长大后，出入侍从左右。到了攻占婺州，任命为总制，命他协助元帅常遇春镇守婺州。吴元年授予金华卫指挥同知。洪武元年(1368)，跟从副将军李文忠北征，活捉了元宗王庆生。提升为杭州卫指挥使，不久又升为都督指挥使。诏令恢复本姓。
九年，迁镇河南。当时在汴梁新建北京，实为重地，太祖素来认为司马贤良，特委以重任。宋国公冯胜在河南练兵，遇上星变，在大梁占卦。太祖派使者秘密指示冯胜，说：“并把此话告诉马儿。”又指示二人说：“天象常见，大梁军民杂处，尤其要谨慎防范。现秦、晋二王已回到京城，应当严兵宿卫。王抵达汴梁时，如果宋国公出来迎接，则都指挥居守；都指挥出来迎接，则宋国公居守。”敕书书其官职而不书其姓名，与宋国公等人一样倚重。十九年，朝拜太祖，提升为中军都督府佥事。二十五年，任左副总兵跟从蓝玉征讨建昌，讨伐越辒。第二年正月回到成都后去世。追究蓝玉党案而受株连，两个儿子获罪。
司马喜好文学，性格谦厚，所到之处安抚士兵，很得民心。在河南的时间较长，尤为有惠政。公暇退居，一室萧然如寒素。虽然战功不及文辉，但雅量却超过了他。二人并称为贤将。