政变的始作俑者是当时在位的孝明帝元诩。
元诩还是个十九岁的少年，却已经当了十三年的皇帝。他六岁时即由生母胡太后扶持着登基称帝，之后一直生活在母后的阴影之下。随着年纪的增长，元诩开始不甘心做有名无实的傀儡，不乐意永远当母后的“乖宝宝”。更何况，元诩对胡太后淫乱宫廷、半公开地蓄养男宠，给死去的父皇戴“绿帽子”的丑行很厌恶。
当时北魏王朝已经陷入风雨飘摇之中，北方六镇官兵起义已经四五年了，攻城略地，战火蔓延到整个华北地区；首都洛阳府库空虚，朝廷到了没有隔夜粮的地步，胡太后还沉迷于揽权和淫乱之中，置朝政于不顾。元诩不能坐视祖宗基业荒废下去，他培养亲信、指点江山，希望有所作为。但胡太后却将元诩此举看作是背叛的信号，找个机会将儿子的亲信都杀死了。她越不希望儿子摆脱自己的阴影，元诩偏偏越要挣脱。
武泰元年（528），母子俩的矛盾达到顶峰。当时元诩的妃子生下一个女儿。胡太后竟然宣称生了一位皇子，还大赦天下——元诩没有儿子，胡太后迫切想要一个皇孙。元诩再也不能忍受母后伤害帝国的种种行径了，他计划驱逐朝廷中的奸佞，将母后锁入深宫。可是环顾朝廷，元诩都没有可以依靠的大臣。于是，年轻的元诩作出了一个缺乏经验的选择：招外地将领“勤王”。
元诩选中的将领是晋阳的镇北将军尔朱荣。
尔朱荣是山西北部的羯氏部落首领，积极镇压六镇起义，经过多年征战基本占领了山西地区，是黄河以北最强大的、尚且忠实朝廷的地方势力。他的军队虽然不满一万人，但都是勇猛善战的老兵，又有高欢、贺拔岳等干将效力，可谓是“兵强马壮”。胡太后对尔朱荣有所忌惮，把他的防区限制在山西地区。尔朱荣上表，主动要求去河北镇压六镇起义，胡太后就没有答应——这一点可能让元诩觉得尔朱荣会站在自己一边。元诩不知道，尔朱荣正在抓紧操练兵马，磨刀霍霍要逐鹿中原了。他缺的，就是一个借口、一面幌子。
接到元诩向洛阳进兵的密令后，野心勃勃的尔朱荣喜出望外，马上整军南下。就在尔朱荣大军到达上党时，元诩却犹豫起来，命令他就地驻扎。
元诩优柔寡断之间，消息早已泄露。胡太后联合情夫徐纥、郑俨两人，残忍地将亲生儿子元诩毒死。可是，胡太后这事干得太不严密，皇帝暴亡，朝野都知道是谁干的。胡太后此举不仅残忍，而且也给自己造成了巨大的麻烦。元诩没有儿子，这就为胡太后继续执掌朝政设置了障碍。按理，不久前向天下宣布是皇子的女儿应该继位为新皇帝。事到如今，胡太后硬着头皮准备扶持一个女娃娃继位当皇帝，可第二天她又心虚地主动宣布新皇帝是女儿身，不适宜登基（绝大多数史学家都不承认这个只在位一天、没有正式登基的女皇帝，可也有少数人认为这个公主就是中国史上第一位女皇帝，比武则天早了一百六十多年）。
胡太后选择元诩的侄子、年仅三岁的元钊为新皇帝，想平息责难。她将尔朱荣想得太简单了。尔朱荣早在起兵之时，就想做第二个董卓了。皇帝的死只是给他提供了绝好的借口而已。他根本就不承认洛阳的新政府，反而通告天下要追查元诩的死因。
尔朱荣的精兵很快逼近黄河北岸，徐纥等人并不以为意，认为：“尔朱荣是马邑小胡，人才卑劣，自不量力来冒犯天颜，简直是自取灭亡。洛阳的禁卫军就足以消灭他。尔朱荣不远千里挥兵南下，兵老师疲，我们不用做什么准备，以逸待劳就能打败他们。”尔朱荣率领几千人的部队长途征战，的确让人觉得不太靠谱。胡太后采纳了情夫的意见，派遣黄门侍郎李神轨为大都督；派遣郑俨的族兄弟郑季明、郑先护二人驻守黄河河桥；派遣武卫将军费穆驻守黄河渡口小平津，等着尔朱荣来“送死”。
尔朱荣想做董卓第二，却比董卓有头脑得多。他深知，要想在政坛上有大作为，政治永远比军事重要。早在起兵之初，尔朱荣就有心改立新君、独揽大权，开始物色政治盟友。他派侄子尔朱天光潜入洛阳，找到在朝中任直阁将军的堂弟尔朱世隆。后者向尔朱天光推荐了元诩的叔叔、长乐王元子攸。元子攸受胡太后一党的排挤，和胡太后等人有较深矛盾。他长期担任禁卫军将领，不仅有一帮禁卫军官兵支持他，清流世族和文官集团也拥戴他，在朝廷中有相当的根基。各方面看起来，元子攸都是不错的人选，可以让尔朱荣集团争取到洛阳禁卫军和世族大家们的支持。于是，尔朱天光秘密会见了元子攸，将尔朱荣的橄榄枝传递了过去。元子攸欣然应允，带着家眷跟着尔朱天光逃出了洛阳。
当时北方少数民族择立君主有一个传统：将所有的候选人铸铜像，请示天意，如果铜像铸成说明此人受命于天，可立为君；如果铸像不成，则上天不认可此人。尔朱荣手中一共掌握了六位王爷，一一给他们铸像，只有元子攸的铜像一举成功。
武泰元年（528）四月十一日，尔朱荣在河阴（今河南洛阳东北）拥立元子攸登基称帝，和洛阳的元钊对峙。元子攸就是孝庄帝，封尔朱荣为都督中外诸军事、大将军、尚书令等，晋爵太原王。这是一招好棋，尔朱荣一下子从叛乱者跃升为“挟天子以令天下”的正义之师。
孝庄帝登基后，局势就明朗了。胡太后立的小皇帝元钊原本就不为朝野所接受。大臣们早就和胡太后离心离德。听说元子攸登基后，洛阳的禁卫军官兵、文官和世族大家争相出迎，向新皇帝表示效忠。元子攸登基的当天，镇守黄河的郑先护、费穆等人就主动归附，导致洛阳门户大开，大都督李神轨不战而退。消息传到洛阳，禁卫官兵四处溃散。战争不用打了，尔朱荣兵不血刃，提前锁定胜局了。
胜负已定，郑俨和徐纥两个男宠跑得比谁都快。郑俨逃归乡里，想在地方起兵，结果被部下所杀；徐纥逃到江南归降萧衍，因为好慕权力、奴颜媚骨，为时人所斥。众叛亲离的胡太后在绝望中宣称出家为尼，还强迫宫中所有的嫔妃随自己一起削发出家。她逃入佛寺，寄希望于佛祖的保佑。洛阳的皇室贵族和文武百官见状，第二天就拿着皇帝玺绂、摆出皇帝法驾，公开出城去迎接新皇帝元子攸了。
北魏朝野承认了元子攸，也就承认了尔朱荣造反的胜利果实。到此为止，尔朱荣起兵可以胜利、和平地收场了。他只要护送着元子攸进入洛阳，就大功告成了。但是，平静之中酝酿着波澜。