刘尼，是代人。曾祖父刘敦，在道武帝时有战功，被任命为一个方面的大人。父亲刘娄，为冠军将军。刘尼英勇果敢，擅长骑射。太武帝见到他后很赏识，拜为羽林中郎，赐爵为昌国子。宗爱在东庙杀了南安王余，秘而不宣。只有刘尼知道情况。刘尼劝宗爱立文成为帝。宗爱因为自己有罪于景穆，闻言后惊道：“您真是糊涂人！皇孙若即位，怎么会忘了正平年间的事情呢？”刘尼道“：按你的意思，该立谁为帝呢？”宗爱道：“等回宫后，从各个王子中挑选个贤明的迎立为君。”刘尼怕他反悔，将情况偷偷告诉了殿中尚书源贺，当时源贺和刘尼一起掌管禁兵在宫中值宿警卫，并和南部尚书陆丽一起商议，要秘密迎立皇孙。于是，源贺与尚书长孙渴侯派重兵守卫，刘尼和陆丽在皇苑中迎立文成。陆丽抱着文成骑上马，驰入京城。刘尼骑马返回东庙，大叫道：“宗爱杀了南安公，大逆不道。现在皇孙已登上皇位，皇帝有诏，值宿的卫士，都可以回宫。”众人齐呼万岁。源贺及长孙渴侯立刻拿下宗爱、贾周等人，率兵进入宫中，在宫门外恭迎文成，请文成入宫登上永安殿。刘尼被任命为内行长，封为东安公。
不久他改任尚书右仆射，为定州刺史。他在定州为政清廉审慎，但经常喝醉酒。文成末，刘尼被任命为司徒。献文帝即位后，刘尼对先朝有大功，对他格外尊重，另外赐给他四十户属户。皇兴四年(470)，皇帝御驾北征，要亲自率众宣誓，而刘尼因为喝醉了酒，军容不整。皇帝因为他功勋卓著，特地宽恕了他，仅仅将他免官。延兴四年(474)去世，其子刘杜生承袭了爵位。