蠕蠕族，是东胡族的后代子孙，姓郁久闾氏。传说在神元帝末年，有人在东胡抢劫马匹时抓到一个奴隶，头发只齐眉毛那么长，不知道自己的姓名，主人就给他取名叫木骨闾。“木骨闾”就是头秃的意思。木骨闾与郁久闾声音相近，所以他的子孙就以郁久闾作为姓氏。木骨闾成年后，被免去奴隶身份而充当骑卒。穆帝时，他因为行军误期而犯了斩首之罪，就逃到沙漠上的奚谷谷之间藏匿起来，聚合逃亡者共一百余人，依附于纥突邻部。木骨闾死后，其子车鹿会十分雄伟强健，开始形成自己的部族，自号为柔然，而役属于中国。后来世祖因为这个部族愚昧无知，就像是虫子，所以把它的称号改为蠕蠕。
车鹿会当了部族首领之后，每年都向朝廷进贡马匹牲畜和貂豸内皮，他们冬天就迁徙到大沙漠以南，夏天又迁回大沙漠之北。车鹿会死后，其子吐奴傀继位。吐奴傀死后，其子跋提继位。跋提死后，其子地粟袁继位。地粟袁死后，部族就一分为二，地粟袁的长子匹候跋继承父位居于东边，次子..纥提另居西边。到昭成帝驾崩，..纥提依附于卫辰而背叛我朝。登国年间大魏出兵讨伐他，蠕蠕部族便迁移逃跑，将其追逐到大沙漠南床山下，把它打败，俘虏了其部族人的一半。匹候跋和部帅屋击各自收集其余部逃走，我朝派长孙嵩和长孙肥继续追击，穿过大沙漠。长孙嵩追到平望川，大破屋击，并将他擒获，斩首示众。长孙肥追至诼邪山，逼近匹候跋，匹候跋所部全部投降。又抓获..纥提之子曷多汗和曷多汗之兄诘归之、社仑、斛律等人及其宗族党羽数百人，把他们分配到各部。..纥提向西而逃，企图回到卫辰那里去，太祖下令追击，到达跋那山，..纥提也被迫投降，太祖对他像往日那样加以抚慰。
登国九年(394)，曷多汗与社仑率部众背弃其父..纥提向西逃走，长孙肥率轻骑追赶，追至上郡跋那山，斩曷多汗，并将跟随他叛逃的人全都杀死。社仑带领数百人逃奔匹候跋，匹候跋把他安置在南部边邑，离自己的王庭五百里，并令自己的四个儿子对他进行监视。不久，社仑率领他的亲随捉拿匹候跋的四个儿子而反叛，袭击匹候跋。匹候跋的其他几个儿子收集余部，逃走依附于高车的斛律部族。社仑凶狠狡诈而有权变，过了一个多月，就释放了匹候跋，送还了他的几个儿子，企图将他们聚而歼之。于是暗中发兵袭击匹候跋，将他杀死。匹候跋之子启拔、吴颉等十五人归附于太祖。社仑杀了匹候跋之后，害怕魏军前来征讨，就抢掠五原以西的各个部落，向北穿过大沙漠。太祖授予启拔、吴颉以安远将军、平棘侯之职。社仑与后秦结和亲之约。太祖派材官将军和突袭击黜弗、素古延各部族，社仑派骑兵援救素古延，和突回兵攻击，大败社仑。
社仑远逃到大沙漠以北，侵犯高车族，深入高车境内，于是兼并邻近的各个部族，其凶顽之势日益加剧。社仑又迁移到北边的弱洛水，开始建立军法：一千人为军，每军设置一个将，一百人为幢，每幢设置一个帅；作战时抢在前面的人就赐给虏获的俘虏和财物，胆小退却的人就用石头击破脑袋而死，或者暂时用棍子、鞭子痛打。因其没有文字来记载，将帅就用羊屎来粗略地计算兵员数目，后来才稍为懂得用刻木的方法来记事。社仑部的西北边有匈奴余族，其部落非常富足强盛，部落头领名叫拔也稽，他发兵攻击社仑，社仑在安页根河迎战，大破拔也稽军，后来其部族全都被社仑所兼并。于是其政权一时十分强盛。部族人随水草之地游牧，其西边是焉耆国的疆土，东边是朝鲜国的疆土，北边穿过大沙漠，直到沙漠尽头，南边则临大沙漠。其经常聚会议事的中心在敦煌、张掖的北部。邻近的小柄都深受其侵犯掳掠之害，只得同它联络关系而依附于它，于是社仑自号为丘豆伐可汗。“丘豆伐”相当于北魏人所说的“驾驭开张”的意思，“可汗”相当于北魏所说的皇帝。蠕蠕国的风俗，国君和大臣凭他的行为能力给予称号，就像中国的为某人立谥号，人死之后，不再追加称号。太祖对尚书崔玄伯说道：“蠕蠕族的人，历来号称凶顽愚蠢，每次外出抢掠，都要驾着母牛奔逃，驱赶着犍牛跟随着跑，母牛往往趴伏着不能往前跑。别的部族的人教给他们用犍牛替换母牛，蠕蠕人说‘它的母亲都不能走，何况它的儿子呢’，终究不予以替换，于是只能被敌方俘虏。现在社仑学习中国，建立军法，设置作战的阵式，终于成为边地的祸害。道家曾说圣人生，大盗起，确实说得不错啊。”
天兴五年(402)，社仑听说太祖征讨姚兴，就来侵犯边塞，进入参合陂，南边到达豺山和善无北泽。当时太祖派常山王拓跋遵率一万骑兵追击，没有追上。天赐年间，社仑的堂弟悦代、大那等人图谋杀死社仑而拥立大那，被社仑发觉，大那等人前来投奔，朝廷授予大那冠军将军、西平侯，悦代为越骑校尉、易陽子。天赐三年(406)夏，社仑侵犯边境，永兴元年(409)冬，又来侵犯边塞。永兴二年(410)，太宗发兵讨伐，社仑逃走，死于途中。社仑的儿子度拔年幼，不能控制其部众，部落就拥立社仑之弟斛律为首领，号为蔼苦盖可汗，“蔼苦盖”就是魏人所说“姿质美好”的意思。
斛律于北边兼并了贺术也骨国，东边攻破譬历辰部落。永兴三年(411)，斛律的同宗人悦侯咄角氐干等数百人前来投降。斛律惧怕朝廷威严而只顾防守，不敢南来侵犯，于是北部边境得以安宁。神瑞元年(414)，斛律与冯跋联姻和亲，冯跋娶斛律的女儿为妻，将要举行婚礼。斛律长兄之子步鹿真对斛律说：“你的女儿年尚幼小，远嫁到外地，恐怕会因想家而忧思得病，可以派大臣树黎、勿地延等的女儿作为陪嫁。”斛律不答应。步鹿真出来后对树黎等人说：“斛律想要把你们的女儿作为陪嫁，远送到别的国家。”于是树黎就与步鹿真共同策划，派一批勇士趁夜晚靠近斛律所住的毡帐，等到他出来时就把他扣押起来，并让他陪他的女儿嫁到和龙城。于是就立步鹿真为首领。
步鹿真即位后，把政事委付给了树黎。当初，高车族的叱洛侯背叛他的首领，引导社仑攻破各个部落，社仑十分感激他，让他做了大人。有一次，步鹿真同社仑的儿子社拔一道到叱洛侯家中，与他年轻的妻子私通。他的妻子告诉步鹿真说，叱洛侯想要推举大檀为首领，送给大檀一副黄金制的马勒作为信物。步鹿真听了后，回去派了八千名骑兵包围了叱洛侯，叱洛侯被迫烧毁了他的所有珍宝，自刎而死。于是步鹿真就乘其不备袭击大檀，大檀发兵捉拿了步鹿真和社拔，把他们绞死，就自己立为部族首领。
大檀，是社仑的叔父仆浑之子，先前统率其他部落，镇守在西部边界，由于他很得人心，部族的人都推崇拥戴他，自号为牟汗纥升盖可汗，就是魏国人所说“制胜”的意思。斛律父子到了和龙城以后，冯跋封他为上谷侯。后来大檀率部向南迁移进犯边塞，太宗亲自带兵征讨，大檀畏惧逃跑。太宗派山陽侯奚斤等人领兵追击，碰上严寒大雪，战士们冻死的、冻掉手指的占十分之二三。到太宗驾崩后，世祖即位，大檀听到这消息大喜，始光元年(424)秋，就来侵犯云中郡。世祖带兵亲往讨伐，三天两夜赶赴云中。大檀率领骑兵包围世祖，共围了五十层，后面的马头紧靠前面的马，一层接一层就像是土墙一样。魏军士卒十分恐慌，而世祖却神色自若，于是军情才得以安定。早先，大檀的弟弟大那与社仑争夺领导权，失败后投奔朝廷。大檀以大那的儿子于陟斤为部帅，魏朝军士用乱箭将于陟斤射死，大檀恐惧，就退了回去。始光二年(425)，世祖发兵大举征伐，分兵从东西五路齐发并进：平陽王长孙翰等人从黑漠进发，汝陰公长孙道生从黑白两漠之间进军，世祖从中路前进，东平公娥清从偏西方向经栗园进军，宜城王奚斤、将军安原等从西路经尔寒山进军。各部分头前进到达漠南，留下辎重，骑兵轻装只带十五天的干粮，横穿大沙漠合兵围剿，大檀部落惊恐惧怕，向北而逃。神..元年(428)八月，大檀又派儿子率骑兵万余人侵入边塞，杀戮抢掠边地居民而逃。魏朝附属国高车出兵追击，将他们打败。皇帝从广宁回朝，派兵追击却没有追到。
神..二年(429)四月，世祖在南郊操练兵马，准备攻击大檀。朝廷的公卿大臣们都不愿意出兵，术士张渊、徐辩用观察星象的结果去劝阻世祖，世祖却听从崔浩的建议决定进兵。刚好派往江南的使者回来，报告了刘义隆想要进犯黄河以南地区的情况，刘义隆对使者说：“你速速回去告知魏朝皇帝，归还我黄河以南地区，我就立即罢兵，不然的话，我就会下令将士全力进攻。”世祖听说后大笑，对朝廷公卿大臣说：“刘义隆不过是一个龟鳖小儿，连自救都顾不上，能有什么作为。即使他敢于来犯，倘若不先灭除蠕蠕，就等于是坐等贼寇到来，使我们腹背受敌，这不是上策。我出兵征讨蠕蠕的主意已经定了。”于是，皇帝的车驾出东路向黑山进发，平陽王长孙翰率兵从西路向大娥山进发，两路合兵直逼蠕蠕的政权中心。同年五月，军队驻扎在大沙漠之南，留下辎重轻装奔袭，兵到栗水，大檀所部闻风向西逃窜。大檀的弟弟匹黎原先掌管东边部落，打算赶赴大檀所在之处，途中遭遇长孙翰的军队，长孙翰派骑兵进击，杀死其酋长数百人。大檀闻讯十分震惊恐惧，就率领他的部族，烧掉毡帐房舍，向西逃走，不留行迹，没有人知道他们逃到了哪里。于是，蠕蠕国部落四处奔散，窜逃藏匿于山谷地区，弃下各种牲畜遍布四野，没有人看管照料。世祖沿着栗水向西而行，路经汉代大将窦宪昔日的营垒。六月，世祖的车驾驻扎在兔园水，这里离平城有三千七百里。分兵搜索征讨，东边到达大沙漠，西边接近张掖水，北边越过燕然山，东西五千余里，南北三千里。高车各部族捕杀大檀属下的人，前后有三十余万人归降，俘获大小头领及胡马百余万匹。这年八月，世祖听说东部的高车人屯扎在已尼陂，人口和牲畜非常多，离官军一千多里。于是派左仆射安原等人前往征伐。军队开到已尼陂，高车各部落纷纷向官军投降，共计数十万人。
大檀的部落从此衰弱不堪，大檀也发病而死，其子吴提继位，号敕连可汗，是魏人所说“神圣”之意。神鹿加四年(431)，吴提派使者向朝廷进贡。起先，北方边境魏军的哨骑抓获吴提派往南边巡逻的士卒二十余人，世祖赐给他们衣服，把他们遣送回去。吴提上下的人都感激朝廷恩德，所以就向朝廷纳贡。世祖将其使者当作贵宾给以厚待，并送他们回去。延和三年(434)二月，因吴提娶了西海公主为妻，世祖又派使者前往把吴提的妹妹纳为夫人，后又将她进升为左昭仪。吴提派其兄秃鹿傀和近侍数百人前来朝贡，献马二千匹，世祖大悦，对他们颁赐甚为丰厚。到了太延二年(436)，吴提又断绝和睦关系进犯边塞。四年(438)，世祖带兵到达五原，征伐吴提。乐平王拓跋丕、河东公贺多罗督率十五员大将出兵东路，永昌王拓跋健、宜都王穆寿督率十五员大将从西路进军，世祖从中路进发。到达浚稽山，又将中路军分成两路，陈留王拓跋崇由大泽向涿邪山前进，世祖则从浚稽往北向天山进军。军队登上西边的白阜山，在石头上刻字记载其行踪，终因没有发现蠕蠕人的踪迹而回还。当时漠北大旱，大沙漠中没有水草，军马死亡甚多。太延五年(439)，世祖向西讨伐沮渠牧犍，宜都王穆寿辅助景穆帝留守京师，长乐王嵇敬、建宁王拓跋崇率二万人镇守漠南，以防备蠕蠕来犯。吴提果然侵犯边塞，穆寿一向不加防备，致使敌军进至七介山，京城的人大为惊恐，争相奔往中城。司空长孙道生领兵迎敌于吐颓山。吴提前来侵犯之时，留其兄乞列归与北边各镇的军队对峙，长乐王嵇敬、建宁王拓跋崇等人率兵大破乞列归于陰山北面，将他擒获。乞列归叹道：“这是沮渠牧犍陷我于死地啊。”又抓获乞列归的伯父他吾无鹿胡及其将帅五百人，斩首万余级。吴提闻讯逃走，长孙道生随后追击，追到漠南而还。真君四年(443)，世祖驾幸漠南，分兵四路：乐安王拓跋范、建宁王拓跋崇各领十五员大将出东路，乐平王拓跋丕督率十五员大将出西路，世祖率军出中路，中山王拓跋辰统领十五员大将为中路军的后继。世祖到达鹿浑谷，将要同敌军遭遇，吴提逃走，魏军追至安页根河，将吴提军击破。世祖到达石水而还。真君五年(444)，世祖又到漠南，想要攻击吴提，吴提逃到很远的地方，世祖才回朝。
吴提死后，其子吐贺真继位，号处可汗，是魏人所说“答应”的意思。真君十年(449)正月，世祖北伐，高凉王拓跋那出东路，略陽王拓跋羯儿出西路，世祖与景穆帝由中路出涿邪山。吐贺真的部落首领尔绵他拔等人率一千多家前来投降。当时，魏军前行数千里，吐贺真由于刚刚即位，十分畏惧就远远地逃遁。这一年九月，世祖又一次北伐，高凉王拓跋那从东路进发，略陽王拓跋羯儿从中路出兵，与各路军约定时间在地弗池会师。吐贺真集合全国的精锐兵力，军队物资非常充足，将高凉王拓跋那围困数十层，高凉王拓跋那挖掘长长的围子坚守，双方相持好几天。吐贺真多次向拓跋那挑战，都没有成功，因为高凉王拓跋那兵少而防守坚固，吐贺真怀疑魏军大部队很快就会到来，就解除包围连夜逃走。高凉王拓跋那领军追击，一连追了九天九夜，吐贺真越发畏惧，就丢弃辎重，跨越穹隆岭逃之夭夭。高凉王拓跋那收集敌军的辎重，领军而还，与世祖会师于广泽。略陽王拓跋羯儿收聚蠕蠕族的人口畜产达百余万。从此以后，吐贺真力量日益薄弱，逃往远处，于是边疆的敌患得以停息。太安四年(458)，高宗北征，出动骑兵十万，战车十五万辆，旌旗相连长达千里，穿越大沙漠。吐贺真逃往远地，其属下乌朱驾颓率数千部落前来投降，于是高宗令人在石头上刊刻记载北征之功，回到京城。高宗承世祖对蠕蠕进行征伐之后，有意要休养生息，蠕蠕族也畏惧朝廷威势而远窜北方，再也不敢南犯。
和平五年(464)，吐贺真死，其子予成继位，号受罗部真可汗，这是魏人所说“恩惠”的意思。予成自定年号为永康元年，率领其部族又来侵犯边境，魏朝北方各镇流动出击的军队把他们打败。皇兴四年(470)，予成又来犯边，显祖带兵北伐。京兆王子推、东陽公元丕督率诸军出西路，任城王元云等督率军队出东路，汝陰王元赐、济南公罗乌拔督率军队为前锋，陇西王源贺督率诸军为后继。各路将领与显祖在女水之滨会合，显祖亲临誓师，诏令诸将说：“打仗用兵不在于多而在于出奇制胜，你们要为朝廷奋力作战，作战方略朕已成竹在胸。”于是就挑选精兵五千人向敌军挑战，布置许多奇兵来迷惑对方。蠕蠕军溃败逃窜，魏军向北追逐三十余里，斩首五万级，敌军投降的有万余人，缴获军马兵器不计其数。十九天之内，往返行军六千余里，把女水改名为武川，并撰写《北征颂》，刊刻在大石上以记载战功。
延兴五年(475)，予成向朝廷请求通婚，朝中官吏认为予成屡次侵犯边塞，请求皇帝拒绝他派来的使者，发兵讨伐予成。显祖说：“蠕蠕人好像禽兽，贪婪而不讲信义，朕应当以信用和诚恳对待他们，不能强行与之断绝。予成既然懂得悔过，派使者前来请和，要求结姻攀附，怎么能辜负他的一片诚意？”于是下诏回复说：“所论通婚之事，说明你开始有所转变，但探究事情的道理，却不能允许你的请求。男女婚嫁之事，爻象上说得十分明白，初次婚媾的喜事，应当崇尚厚重的礼聘，这是君子之所重视的人伦之本。如果开头就不严肃慎重地对待，此事终究难以长久。”予成经常心怀诡谲奸诈，于显祖在位之时，不再向朝廷求婚。太和元年(477)四月，予成派遣使者比拔等人前来向朝廷进献良马、貂裘，比拔等人说天朝拥有珍宝华丽之物非常之多，请求让他们观看一番。皇帝就令有关官员拿出宫中所藏的珍玩金玉、文绣器物，御厩里的宝马、奇禽、异兽，以及人间所用的贵重物品，都陈列在京城街市，让他们一一观赏。比拔看了以后，对同来的人说：“大国这等富贵华丽，我一生都不曾见到过。”太和二年(478)二月，予成又派比拔等人前来朝贡，不久又请求通婚。高祖有招纳蠕蠕之意，就准许了。予成虽然年年朝贡，却不曾明确地同朝廷订立款约，因此通婚之事也就停了下来。
太和九年(485)，予成死。其子豆仑继位，号伏古敦可汗，是魏人所说“永久”的意思。自称太平元年。豆仑性情残暴，杀人成性，他的大臣侯医西山、石洛候屡次以忠言相谏劝，又劝他与魏和睦相交，不要侵犯中国。豆仑大怒，诬陷石洛候图谋反叛，把他杀掉，并夷灭其三族。太和十六年(492)八月，高祖派陽平王元颐、左仆射陆睿又同为都督，统领斛律桓等十二员大将率七万骑兵征讨豆仑。蠕蠕部族内高车族人阿伏至罗率十余万人向西逃走，自立为主。豆仑与叔父那盖分两路追击，豆仑从浚稽山北面出发向西，那盖则从金山出发。豆仑多次被阿伏至罗打败，而那盖则接连打了胜仗。于是国人都认为那盖有上天帮助，想要推举那盖为首领。那盖不从，众人强逼他，他就说：“我当臣子都不行，怎么能当国主？”部众就杀了豆仑母子，把他们的尸首给那盖看，那盖这才即位。
那盖号为候其伏代库者可汗，在魏人语言中是“悦乐”的意思。自称年号为太安元年。那盖死，其子伏图继位，号他汗可汗，是魏人所说“开端”的意思。自称始平元年。正始三年(506)，伏图派使者纥奚勿六跋来朝廷进贡，请求通和。世宗不答复使者，让朝廷有关官员下诏书给勿六跋说：“蠕蠕的远祖社仑是大魏国的叛臣，我们对过去的事予以宽容，暂时与你通使往来。现在蠕蠕已经衰微，势力比往昔大为减弱，我大魏朝恩德广厚，兴隆如同周、汉，跨据中原之地，肃清八方之外。现因江南尚未平定，权且宽容北边的掳掠，双方通和之事，不容轻易应允。如你们整治藩邦之礼，表现出明显的诚意，自当不会辜负尔之诚心。”永平元年(508)，伏图又派勿六跋奉上函信一封，并献上貂裘，世宗不予接纳，按照前次晓喻的道理将使者遣还。
伏图征伐西部的高车族，被高车王弥俄突所杀，其子丑奴继位，号豆罗伏跋豆伐可汗，是魏人所说“彰制”的意思。自称建昌元年。永平四年(511)九月，丑奴派僧人洪宣向朝廷奉献珠宝佛像。延昌三年(514)冬，世宗派骁骑将军马义舒出使丑奴，使者还未出发而皇帝驾崩，此事便停止下来。丑奴魁梧健壮，善于用兵。延昌四年(515)，派大臣尉比建前来朝贡。熙平元年(516)，丑奴西征高车并大破高车军队，擒获高车王弥俄突，把他杀掉，吞并所有高车的人马，其国由此而又趋强盛。熙平二年(517)，丑奴又派大臣尉比建、纥奚勿六跋、巩顾礼等前来朝贡。神龟元年(518)二月，肃宗驾临显陽殿，把巩顾礼等二十人带到殿前，派中书舍人徐纥宣读诏书，表示对蠕蠕履行藩邦之礼不完备的谴责之意。
当初，豆仑被下属杀死，那盖继位为首领，伏图就占有豆仑之妻候吕陵氏，生下丑奴、阿那瑰等六人。丑奴即位后，忽然丢失了名叫祖惠的儿子，四处寻找都不见。有个叫屋引副升牟的人，他的妻子名叫是豆浑地万，年方二十，是一个巫医，常常假托神鬼附身，以前经常被丑奴所信任，在丑奴那里进进出出，她说这个小儿如今在天上，我能够呼叫到他。丑奴母子俩对此十分欣喜，第二年仲秋之际，在大泽中设置帐篷，斋戒洁身七天，祈请上天。过了一夜，祖惠忽然来到帐篷里，自己说是长期以来住在天上。丑奴母子紧紧抱着他，悲喜交加，于是聚会全国的人，给是豆浑地万取号为圣女，把她接纳为可贺敦，授予她的丈夫屋引副升牟爵位，并赐给牛马羊三千头。是豆浑地万既怀有邪门左道，又颇有姿色，丑奴对她非常喜爱，对她言听计从，于是国政由此而日益昏乱。像这样过了许多年，祖惠长大成人，他母亲问他早先的事，祖惠说道：“我长期住在是豆浑地万家里，根本不曾去到天上，上天的说法是地万教我的。”他母亲就把这些情况全都告诉丑奴，丑奴说：“地万能够看得见很遥远的事情，不能不相信她，你不要用谗言诽谤她。”后来地万对此感到非常恐惧，就在丑奴面前诬陷祖惠，丑奴就暗地里把祖惠杀了。
正光初年(520)，丑奴的母亲派大臣李具列等人将是豆浑地万绞死，丑奴大怒，要诛杀李具列等人。这时阿至罗部来侵犯丑奴，丑奴领兵回击，被打败。丑奴返回之后，他的母亲和大臣把他杀了，立丑奴的弟弟阿那瑰为主。即位仅有十天，阿那瑰的族兄大臣示发率数万之众攻打阿那瑰，阿那瑰战败，带领他的弟弟乙居伐轻骑往南投奔大魏。阿那瑰之母候吕陵氏同他的二个弟弟不久就被示发杀死，但阿那瑰却不知道此事。
同年九月，阿那瑰将要到达京师，肃宗派兼侍中陆希道为主使，兼散骑常侍孟威为副使，到京城辖区的边地迎接慰劳；派司空公、京兆王元继到北中这个地方，侍中崔光、黄门郎元纂在离京城五十里处，设置酒宴以表示慰劳，一直把他接到朝廷门阙之下。十月，肃宗来到显陽殿，指定从五品以上任职显要的官员、宗室贵族、各藩国的使者贵宾等，都排列坐于殿庭之上，王公以下的人和阿那瑰等人进来后，就在庭院中面北而坐。座位定下来以后，接待宾客的近侍引导王公以下的官员上殿，阿那瑰位置列于藩王之下，又让将任命的官员和阿那瑰之弟与二叔位列于群官之下。皇帝派中书舍人曹道宣读诏令表示慰劳和问候，阿那瑰向皇帝启奏说：“陛下宽厚为怀，让我的弟弟与叔叔等人得以上殿参与盛会，但微臣还有一位堂兄，在我们部族里官职高于二叔，乞望陛下允许他上殿。”皇帝下令准许他的请求，就把他的座位安排在阿那瑰弟弟之下，其二叔之上。宴会将要结束时，阿那瑰手捧奏折站立在座席之后，肃宗派舍人常景前去问他有什么话想要说，阿那瑰请求走到殿前，皇帝令人引导他上前。阿那瑰再次下拜，直身跪着说：“微臣祖先，原是出自大魏国。”皇帝说：“朕已经都知道了。”阿那瑰站起身来说道：“臣的祖先，随着水草之地放牧牲畜，后来定居在大沙漠之北。”皇帝说：“你的话没有说完，可以详细陈述出来。”阿那瑰又说：“微臣的先祖，世世代代居住在北方，虽然山隔水阻，但世代都倾心仰慕大魏的教化；之所以没有能够早日普及教化，都是因为高车族的悖逆所致，臣国长期受其騷扰，没有机会派遣使者前来向朝廷表达我们深远的诚心。到几年之前，才逐渐平定高车。我的哥哥当了国主之后，曾经派遣巩顾礼等使者前来大魏，确实是想要诚心诚意地奉行藩国的礼仪，所以朝廷派曹道芝出使臣国之日，我与当国主的哥哥立即派五位大臣拜受皇帝的诏命。我兄弟二人臣奉朝廷的心愿没有能够向陛下表明，高车又前来侵犯，国内又有奸臣乘乱反叛，将微臣的哥哥丑奴杀死，拥立臣为国主。仅仅过了十多天，为臣因感到陛下恩慈如同天日，所以在仓卒之间只身前来投奔大魏，归附听命于陛下。”皇帝说道：“听了你的陈说，觉得你还没有把事理说完，你可以继续往下说。”阿那瑰再次跪拜接受诏命，起身说道：“微臣因家国有难，只身来投奔朝廷，我的老母还留在那里，母子分离相距万里，本国的臣民都四处逃散。陛下恩德深重，胜过天地，请求陛下派给兵马，帮助我回归本国，翦灭叛逆之徒，收集逃散的臣民。望陛下以仁慈为怀，赐给微臣兵马。我的老母倘若还在人世，能同我相见，就可继续母子间的恩爱；如果她已经亡故，我定要报这个仇，来洗雪我的奇耻大辱。微臣定当统领余部，侍奉陛下，对朝廷一年四时的贡纳，决不敢有所缺少。臣难以得见陛下圣颜，心里有许多话要向陛下倾吐，但想要说的意思不是几句话就能说完的，另外写有启奏的表章，现在恭敬地呈送陛下，希望陛下仔细阅览。”于是把奏折交付舍人常景，把要说的事一一奏上皇帝。不久，肃宗封阿那瑰为朔方郡公、蠕蠕王，并赐给他衣服冠冕，赠给他轻便马车上的车盖，以及朝臣的俸禄、仪仗与卫士，待遇与藩王相同。
同年十二月，因为阿那瑰考虑到国内没有法定的国主，想要回去加以安抚，屡次向朝廷上书请求，肃宗就诏令朝廷大臣商议此事。当时朝臣中意见不统一，有的主张让他归还，有的则认为这样做不妥。领军元叉时任宰相，阿那瑰私下用黄金一百斤贿赂他，终于获准回到北方。正光二年(521)正月，阿那瑰等五十四人向朝廷辞别，肃宗亲临西堂，接见阿那瑰及其伯叔兄弟五人，让他们上殿并赐坐，并派中书舍人穆弼对他们进行慰劳。阿那瑰等人向皇帝拜辞，皇帝下令赐给阿那瑰细明光人马铠二副，铁人马铠六副；露丝银缠槊二张并配有装饰的白羽毛，赤漆的槊十张也配有白羽毛，黑漆的槊十张并配有旗帜；露丝弓二张并配有箭，朱漆柘弓六张并配有箭，黑漆弓十张并配有箭；赤漆的盾牌六副并有刀，黑漆的盾牌六副并配刀；赤漆鼓角二十具；五色锦被二床，黄绸被褥三十套；诸侯贵戚穿的绣袍一件并带冠帽，诸侯夫人穿的红纳袄一件；红袍二十件并带冠帽，女子穿用的各色丝织物千匹；红色的小口骑服一套及饰物，紫色的大口骑服一套及饰物；百子帐十八具，黄布幕六张；新鲜干粮一百石，炒面粉八石，炒榛粉五石；铜制乌钅育四个，铁制乌钅育二个，容积为二斛；黑漆的竹木盍四个，容积为二升；婢女二人；父草马五百匹，骆驼一百二十头，母牛一百头，羊五千头；朱红色漆画的盘子十合；小米二十万石。全都运送到目的地交给阿那瑰。又诏令侍中崔光、黄门元纂把他们送到京城之外。
阿那瑰前来投奔朝廷之后，他的堂兄大臣婆罗门率领数万人征讨示发，把他打败。示发只得逃奔地豆于人，被地豆于人杀死。于是蠕蠕人推举婆罗门为国主，号为弥偶可社句可汗，是魏人所说“安静”的意思。当时，安北将军、怀朔镇将杨钧给朝廷上表说：“传说蠕蠕人已经另立国主，是阿那瑰的堂兄。北夷人心似野兽，他既然已即国君之位，恐怕未必会以一个杀死兄弟的人的身份，出郊隆重地迎接其堂弟阿那瑰。我朝轻率地送他前去，徒劳往返，将会徒然损害国威，除非是增派军队，否则就不可能把他送回北方。”同年二月，肃宗让昔日担任蠕蠕使者的牒云具仁，前往晓喻婆罗门劝其迎接阿那瑰以恢复其王位。婆罗门特别骄横侮慢，毫无逊位回避之心，强迫牒云具仁对他以君臣之礼相见，具仁坚守节操不肯屈服。婆罗门就派他手下的大官莫何去汾、丘升头等六人率兵二千人随具仁迎接阿那瑰。五月，牒云具仁回到阿那瑰所在的边镇，一同计议当时的事态形势。阿那瑰顾虑重重不敢北进，就上表请求仍回到京都。适逢婆罗门被高车族追逐，被迫率领十个部落到凉州归降大魏，于是蠕蠕族数万臣民相率迎接阿那瑰。七月，阿那瑰上书启奏说：“归顺的蠕蠕人元退社、浑河旃等二人本月二十六日到达我的镇所，说蠕蠕国内大乱，各个姓氏另居别地，相互之间抄家抢掠，如今北方部族的人都引颈翘望，等待朝廷前来拯救。现在我请求朝廷依照先前的恩德，赐给精兵一万。并令人督率送微臣前往漠北，抚慰安定百姓，倘蒙陛下应允我的请求，事情必定能够成功。”肃宗诏令将此事交付尚书、门下省便为计议。八月，皇帝诏令兼散骑常侍王遵业驰往驿所宣旨慰问阿那瑰，并且再次对他进行赏赐。
同年九月，蠕蠕后主俟匿伐前来投奔怀朔镇，俟匿伐是阿那瑰的哥哥，他一再声称蠕蠕人希求朝廷派兵，并敦请阿那瑰归国。十月，录尚书事高陽王元雍、尚书令李崇、侍中侯刚、尚书左仆射元钦、侍中元叉、侍中安丰王元延明、吏部尚书元..义、尚书李彦、给事黄门侍郎元纂、给事黄门侍郎张烈、给事黄门侍郎卢同等人上书启奏说：“臣等私下听说汉朝在匈奴分立南、北单于，晋朝则有东、西单于之称，都是为了相互维系抵御外患，为国家建立屏障。现在臣等参与议论，认为怀朔镇在北国名叫无结山吐若奚泉，敦煌北部的西海郡就是汉、晋两朝旧有的屏障，这两处地势宽阔平坦，原野广袤肥沃。最好是把阿那瑰安置于西吐若奚泉，把婆罗门安置在西海郡，命他们各自统辖所在的部落，收聚离散的百姓。他们的爵号和所需物资给养，可凭朝廷的恩德予以裁断处置。他们大臣以下各级官吏，还让其依照原有的习惯任命。阿那瑰所居之地，既然位于边境之外，应尽量少给优厚的遣送，以显示朝廷威严的治理。请诏令沃野、怀朔、武川三镇各派二百人，令各镇军队的主将监督率领，给他们配给粮草兵器，送阿那瑰到达西吐若奚泉，仍留在那里帮助他从事创建事宜，成功之后再让他们回来。从北边前来归顺婆罗门的人，令各州镇官员依照规定供给口粮，把他们送到怀朔阿那瑰那里，由各镇和使者酌量给以粮食。尚在京城的人则听任他们自己决定去留。阿那瑰还处于初创时期，原先没有储备积蓄，请给予朔州麻子干粮二千斛，由官家驼队运送前往。婆罗门居于西海郡，既然是地处边境之内，物资和军队的供给就不能与阿那瑰一样对待。阿那瑰等新建藩国，应当各派使者持节乘驿马迅速赶到那里予以慰问抚喻，并委付使者帮助他们筹划、治理。”肃宗准许了他们所奏之事。十二月，皇帝诏令安西将军、廷尉元洪超兼任尚书行台，到敦煌安置婆罗门。不久，婆罗门与他的部众图谋反叛投奔口厌哒国，口厌哒国君的三个妻子，都是婆罗门的姊妹。后来还是州军前去征讨，擒获婆罗门。
正光三年(522)十二月，阿那瑰上表请求朝廷供给小米用来做种子，皇帝诏令供给万石。四年，阿那瑰的部族遇到大饥荒，就进入边塞大肆抢掠，肃宗令尚书左丞元孚兼任行台尚书持节前往晓喻。元孚见到阿那瑰，被他扣押，他把元孚当作人质带在身边，驱使部下抢掠良民二千人及公私驿马牛羊数十万向北逃遁，向元孚道歉之后把他放回。肃宗诏令骠骑大将军、尚书令李崇等人率十万骑兵讨伐阿那瑰，出边塞三千余里，直到大沙漠，没有追到阿那瑰，只好撤回。俟匿伐来到洛陽，肃宗驾临西堂，接见俟匿伐。正光五年(524)，婆罗门死于洛陽南边的客馆中，皇帝诏令追赠他为使持节、镇西将军、秦州刺史、广牧公。
这一年，沃野镇人破六韩拔陵反叛朝廷，各镇与他相呼应。孝昌元年(525)春，阿那瑰率兵征讨破六韩拔陵，肃宗诏令派牒云具仁送去各种杂物慰劳赏赐阿那瑰，阿那瑰拜受皇帝诏命，率领十万之众，从武川镇向西进军沃野，屡战告捷。四月，肃宗又派兼通直散骑常侍、中书舍人冯俊出使阿那瑰，表示慰劳并按照次第等级给以赏赐。阿那瑰的部落已经安定，兵马略为强盛，于是自号敕连头兵豆伐可汗，是魏人所说“把揽”的意思。十月，阿那瑰又派郁久闾弥娥等人前来朝贡。孝昌三年(527)四月，阿那瑰派使者巩凤景等前来朝贡，在他们临走时，肃宗下达诏书说：“北方各镇的夷狄，不停地背叛朝廷，蠕蠕国主为大魏国尽忠，帮助朝廷诛讨叛逆，表示侍奉朝廷的诚心，不忘寝食之恩。现知他停息在北方边陲，与..朱荣相邻接，应严格管束部属，不要施暴掳掠。再者，最近又得蠕蠕主的奏启，再次要为国东征。但考虑到蠕蠕主世代居住北漠，不适应夏季炎热，现在可暂且停止，等待以后的敕令。”这是朝廷考虑他反复无常的原因。此后，蠕蠕主频繁派遣使者前来朝贡。
建义初年(528)，孝庄帝下诏说：“功勋卓著的人应得重赏，德行厚重的人名声隆盛，蠕蠕主阿那瑰镇守防卫于北部边境，抵御敌侮于北方地域，终于使得陰山一带战乱停息，弱水一带没有战事，事迹刊刻在狼山，功名铭记于瀚海，至诚之心甚为深厚，功勋业绩未得酬报。所以应当对他表示特殊的礼遇，怎能用普通的规格来对待他。从今以后，他来朝廷赞拜可以不称道自己的姓名，给朝廷上书可以不称臣。”太昌元年(532)六月，阿那瑰派乌句兰树什伐等前来朝贡。并替自己的长子请求娶一位公主为妻。永熙二年(533)四月，出帝下诏把范陽王元诲的长女琅笽公主许配给阿那瑰的长子，还没有举行婚礼，皇帝就被迫逃往关中。齐献武王派使者前往游说阿那瑰，阿那瑰就又派使者来朝贡，并再次求婚。献武王正要招抚四方边远之地，就把常山王之妹乐安公主许配给他，改称为兰陵公主。阿那瑰送奉一千匹马作为聘礼，迎娶公主，皇帝令宗正元寿送公主前往北地。自此以后，蠕蠕向朝廷的朝贡就连续不断而来。阿那瑰因见齐献武王的威德日益隆盛，就请求把自己的爱女送给他，静帝诏令献武王接纳她。从此之后，北方边境地区就没有战乱騷扰的现象发生了。