李平，字云定，从小就有远大的志向。长大后博览群书，喜好《礼经》、《易经》，很有文才。太和初年，任通直散骑侍郎，孝文帝对他十分器重。他请求到一个郡任职，孝文帝说：“你想治理一个地方来试试自己的才能吗？”任他为长乐太守。李平为政清静简淡，官吏和百姓都很怀念他。受征辟为河南行尹，豪门勋戚都害怕他。宣武帝即位，任他为黄门郎，迁任司徒左长史，行尹的职务不变。不久转为正尹，长史的官职不变。
宣武帝将到邺地视察，李平上表进谏，认为“嵩都创建，洛阳营造，虽然已经十年，但根基还不牢固。代人到洛阳，开初还很向往。家里的资产在迁移途中损失殆尽，牛羊大多死在路上，跨过了险峻的太行山，渡过了汹涌的黄河，辛苦备尝，好不容易到达京城，富裕人家的财产还损失一大半，贫苦百姓的情况更可以想像。加上历年来战事不断，百姓们无暇安居。自景明以来，才稍可得到休息。但农夫的家中没有一年的积蓄，修盖房子的人家中也只有数间小屋。百姓们没有不尽力于伊河和氵廛河一带的建设。现在，实在应该让庶民安居乐业，鼓励他们努力耕田，让国家积蓄够九年的粮食，每个家庭都可以应付水旱灾害的袭击。如果仍然限制和滋扰他们，那么，国家失掉的将会很多。”宣武帝没有采纳他的建议。
朝廷下诏命他以原来的官职管理相州的事务。宣武帝到邺城，亲自到他家，见到了他的几位儿子。不久，任命他为刺史。李平劝导农民耕田种桑，修建太学，选拔有学问的儒生充任讲学博士，从五郡的读书人中选拔聪明敏捷的进行教育。描绘孔子和七十二弟子的画像，挂在讲堂内，亲自为每幅画像写像赞。前任刺史颇好鱼肉百姓，李平又画“履虎尾”和“践薄冰”两幅画，悬挂在客馆，写上颂文，以示警诫。被任命为度支尚书，领御史中尉的官衔。
冀州刺史、京兆王元愉在信都反叛，朝廷命李平为持节、都督北讨诸军事、行冀州刺史，讨伐元愉。宣武帝在乾殿慰劳他，并为他送行，说“：怎么会有今天？”说到元愉叛乱的事，唏嘘感叹，泪流满面。李平回答道：“元愉是鬼迷心窍，才做出这种大逆不道的事。陛下不认为我不勇武，委任为总督的职责。如果他主动到军门稽首投降，我便把他送到大理寺按刑法处治；如果怙恶不悛，我便挥军鸣鼓进攻，完成陛下交给的重任。”他率军进至经县，叛军也向这里汇集。夜晚，蛮兵数千人攻打李平军营前面的营垒，箭射进了李平的军帐，李平躺在那里一动也不动，过了一会儿才安静下来。李平指挥军队到冀州城南十六里，大败敌兵，将他们向北追赶到城门处，包围了冀州城。元愉带一百多骑兵突围逃走，李平派统军叔孙头追赶他，离信都八十里，将元愉擒获。冀州平定，朝廷命他以本官领相州大中正职衔。
李平被尚书令高肇、侍御史王显忌恨。后来，王显代替李平为御史中尉，李平被加封为散骑常侍。王显纠劾李平在冀州隐瞒人口，高肇进一步捏造罪状，奏报朝廷解除了李平的职务。延昌初年，朝廷下诏恢复了他原来的官职爵位，任定州和冀州两州的刺史。前来告状的，大多为积压多年没有处理的旧案。他奏报朝廷，不管积案的真伪，一律以景明年以前作为界限，于是，诉讼被止息。武川镇发生灾荒，镇将任款请求借贷，没有得到允许，擅自打开粮仓救济灾民。有司用私散官仓这条法律处罚他，免掉了他的官职。李平上疏奏说任款的目的是为了救济饥民，用心是好的，宣武帝原谅了他。
孝明帝继位初，任李平为吏部尚书。李平精明强干，所在声望颇高，但因性情急躁而常使自己受累。
原先，南梁派将领赵祖悦进逼寿春，魏镇南将军崔亮进攻敌兵，未能取胜。崔亮又与魏将李崇不和。朝廷下诏命李平以本官任使持节、镇军大将军，兼任尚书右仆射，统领各路军队。东西州的将领，都要受他指挥，如果任意行动，按军法从事。命李平的长子李奖为通直郎，跟从他一起去前线。于是，他率步兵和骑兵二千人奔赴寿春，严格地指挥李崇、崔亮，令水陆两路军队按时向敌人发动进攻。李崇、崔亮畏惧他，不敢违抗命令，因而互相配合。经过多日交战，打败敌军。安南将军崔延伯在下蔡建造一座桥梁，以阻挡敌人的援军。敌将王神念、昌义之等不能前来救援。赵祖悦死守困城，李平发起进攻，斩杀赵祖悦，将他的头颅送到洛阳。因立功他升任为尚书右仆射，加封散骑常侍衔。他回到京城洛阳，灵太后在宣光殿接见他，赐给他一根用黄金装饰的刀仗。
这时，南徐州给朝廷送来奏章说：南梁筑堰坝堵截淮水，经常为患。朝廷命公卿大臣讨论。李平认为不依靠武力，堰坝最终也会自己毁坏。果然梁人筑的堰坝被水冲破，灵太后十分高兴，设宴招待群臣，赦免李平过去的罪过，孝明帝亲手赐给他布绢一百匹。
去世，遗嘱让薄葬。