尽管张作霖在信中只是说老朋友聚会，但安遇吾读过信后，还是立即意识到张作霖一定是军事上遇到了什么困难，非自己去不可。
张作霖是何等样人，那也是过五关斩六将后杀出来的豪杰，他都办不了，可想而知有多凶险。这同时意味着他安遇吾要么不去，去了能不能再回八角台就说不定了。安遇吾对信使说：“你回去告诉统领，我随后就到。”信使一走，他在家中杀猪宰羊，宴请邻里和好友，为的就是当着客人的面托付后事。
安遇吾赴约后，张作霖不仅设宴款待，还亲自陪同游玩，只是对深入虎穴一事仍未有一言涉及。这样过了一个月，安遇吾终于有些忍耐不住了，他对张作霖说：“雨亭，究竟有什么事情，快快讲。如果有用得着我的地方，我是万死不辞。”
张作霖这才说出了行动计划，并且说除了你安大哥，谁也无法把这件事办好。安遇吾听后立即答应下来：“好，我明天就去。”
第二天，安遇吾独自一人，骑着马向草原深处如飞奔去。在他身后，张作霖一直目送着，直到再也看不到他的影子，方转身回去。
安遇吾很快就找到了鲍老疙瘩。他现编的一套话是说冯麟阁夺去了他的地盘，使他在八角台一带站不住脚，所以不得不来投奔牙仟驱。鲍老疙瘩信以为真，就带他前往牙仟驱老巢，并将他引见给牙仟驱等人。牙仟驱听鲍老疙瘩说安遇吾如此了得，自无不予以接纳之理，这样安遇吾便在牙仟驱那里住了下来。
过了一段时间，张作霖大营附近突然来了一群蒙军骑兵，张作霖闻报立即率部迎击。这些蒙军骑兵打了几枪就逃走了，不过临走前却在树上挂了一件东西。大家近前一看，发现是一个包袱，取下来一瞧，竟然是安遇吾被卸成几块的尸体！
安遇吾遇害了，显然蒙军是在用这种方式向张作霖示威：你派来的侦察员不中用，我们已经把他给杀死了，看以后还有谁敢再来冒这个险。
张作霖见状如遭雷击，不由得放声大哭起来。哭罢，他赶紧让人把安遇吾的尸体洗净，再用针线缝在一起，以便装入棺内，送回原籍安葬。
就在刷洗尸体时，有人发现安遇吾的腿上有一处已经溃烂的刀伤，而且伤口里似乎还藏着什么东西。掰开一瞧，里面有一个小油纸包，打开油纸包，呈现在众人眼前的是一张手绘的路线图。
原来安遇吾打入敌营不久，就摸清了蒙军老巢的位置以及外界通往其老巢的道路。在将这些记好画下来后，本来已经完成了任务，可以逃回来了，但他还想再刺杀一名蒙军头目，以便瓦解其力量。
为了避免逃回来的途中发生意外，安遇吾将路线图藏在伤口里，随后才去进行刺杀。不料尚未展开行动，他的意图就被蒙军发现了，后者将他杀死，又大卸成几块送来张作霖处示威，但唯独没有对安遇吾的伤口处进行仔细搜查。
路线图仿佛给黑暗中的张作霖送来了一盏明灯。1908年6月12日，他按图索骥，率部突袭蒙军老巢。蒙军猝不及防，慌忙溃逃，却又在溃逃途中遭遇伏击。白音大赉手下得力干将巴塔尔被俘，张作霖下令将其斩首示众，以振军威。
6月28日，张作霖再次分四路发起攻击。牙仟驱和他手下头目黑虎窜地龙等人被击毙，他的两个儿子被俘。白音大赉虽然逃走，但是也顶不住张作霖的穷追猛打，不久受伤被捕，几天后即因伤重身亡。
牙仟驱、白音大赉这边一垮，陶克陶胡遂陷于孤掌难鸣的境地，被迫逃往大兴安岭北部的索伦山区。1909年1月，正值朝野上下欢天喜地庆贺新年之际，张作霖率军深入索伦山区，在林海雪原中对陶克陶胡部发起猛攻。
这是张作霖在剿匪过程中所经历的最激烈一仗，蒙军设置了多处险要工事，火力也非常猛烈。张作霖在此役中身先士卒，冲锋在前，虽然尖兵队员纷纷中弹倒下，仍坚决不肯后退，最后他终于一鼓作气，亲自率队冲上了山顶。蒙军残部难以抵挡，遂丢下山寨，向巴林旗方向溃逃。
1910年4月，在沙俄特务和俄国驻哈尔滨总领馆的安排下，陶克陶胡绕道外蒙逃入俄境，当时他身边仅剩下了几名护卫。至此，内蒙局势趋于稳定，沙俄分裂中国的图谋也宣告破产。
张作霖深知安遇吾在其中所建之功，他除了派人把其灵柩送回八角台风光大葬外，还将安遇吾的两个儿子一人补一个哨官，带到洮南进行安置。可是安遇吾留下的这两个孩子在性格上都随父亲，不愿受差事约束。他们几次故意犯错，希望张作霖能够开除他们，而张作霖始终记着大哥的恩情，总是一味包涵，不肯加责。
最终，两孩子还是开小差离开了军营，去往哪里，谁也不知道。一直到九一八事变后，东北局势混乱，重又盗匪蜂起。一股土匪打进八角台，向当地商会勒索十万元。就在这时，突然又杀出一股土匪，把先前的土匪给打跑了。商会代表想把钱交给新来的这一股，谁知那位“大当家的”听了却哈哈大笑，说：“我回来是保护家乡的，谁拿出来的钱就还给谁，我是拿不起的。”
说完之后，这股人就走了。有人认识“大当家的”，说他就是安遇吾的儿子啊！