夹谷清臣本名夹谷阿不沙，胡里改路桓笃人。他身材魁伟，善长骑马射箭。皇统八年(1148)，继承祖父的驳达猛安。大定元年(1161)，听说金世宗即皇帝位，他率领本部军队六千人赴中都会师，因功升为昭武大将军。夹谷清臣跟从右副元帅纥石烈志宁为管押万户，接应左都监完颜思敬，追逐移剌窝斡的余党，在柔远打败了他们，到抹拔里达全部俘虏了他们。叛军平定后，夹谷清臣升为镇国上将军，知颖顺军事。
适逢宋朝军队二万人攻陷了汝州，杀了刺史乌古孙麻发和二千汉人士兵。河南统军完颜宗尹派万户孛术鲁定方与夹谷清臣等率领四千骑兵前去攻击宋军。宋军弃城而逃，顺利地收复了汝州。大定三年(1163)五月，夹谷清臣跟从纥石烈志宁又攻击了宿州，宋将李世辅大败而逃，纥石烈志宁又派夹谷清臣等率兵追击，又打败了他。捷报传来，授予夹谷清臣宿州防御使。
夹谷清臣迁往博州，改任西北路招讨都监，升为乌古十垒部族节度使。大定十二年(1172)，他被授予右副都点检，升左副都点检，出朝任陕西路统军使，兼知京兆府事。朝拜告辞，皇帝赐给金带御马，屡次告诉他说：“你掌管禁军，每天侍伺左右，勤劳很久了，故用这授予你，你当勉励。”大定二十六年(1186)，夹谷清臣改任西京留守。三年后，升为枢密副使。
明昌元年(1190)，初议出兵宋朝，夹谷清臣以本职为东北路兵马都统制使，随后皇帝下诏阻止了他。不久因他的女儿做了昭仪，他越发被宠爱。明昌二年(1191)，夹谷清臣被授职尚书左丞。不久，进为平章政事，封为芮国公。明昌四年(1193)，夹谷清臣升为右丞相、监修国史。
当时议论派军队戍边，皇帝金章宗问“：汉人与夏人谁勇敢？”夹谷清臣说：“汉人勇敢。”皇帝说：“昔日元昊侵扰边疆，宋朝最终不能制止，为什么？”夹谷清臣说“：宋朝控制军队不得要领，现在西南路人很容易打胜他们。”不久，夹谷清臣升为崇进，改封戴地。一天，皇帝章宗对宰臣说：“有人来敬献《八阵图》，其图到底怎样？朕曾经看宋白所集的《武经》，然而上面所记载的攻守之法很多也难施行。”夹谷清臣说：“兵书都是定法，难以应变。本朝用兵之术，惟用正奇二军，临敌制变，以正为奇，以奇为正，所以无往而不胜。”皇帝章宗说“：自古用兵也不出奇正二法罢了。况且学古代兵法如学下棋，不能在心里领会，而想用旧阵势来迎敌，也差远了。”
不久，夹谷清臣上奏章请求休假，没被批准。夹谷清臣坚决请求，于是赐给他探亲假，并告诉他说：“听说你母亲年老，准备让你探亲，所以特给你五十天假，你骑快马回去，到那里可停留一个月。”明昌五年(1194)二月，皇帝章宗御驾凝和殿，夹谷清臣探亲结束，拜见皇帝。皇帝问“：你母亲健康吗？她高寿多少？你们分别几年了？”夹谷清臣回答说“：臣的母亲八十三岁，我们分别了十年，有幸她很健康。”皇帝说：“为什么不让她来这里？”夹谷清臣说：“她忙于家务，所以不想离开。”皇帝说：“老人多是如此。”皇帝又问夹谷清臣“：胡里改路那里情况如何？”夹谷清臣回答说“：从老故交那里稍知一二，然而勇劲不够。”夹谷清臣又说西南、西北等路的军人，他们闲时练弓箭，也不像过去。
明昌六年(1195)，夹谷清臣升为仪同三司，进升左丞相，改封密地。夹谷清臣受命出师，在临潢府行尚书省事。夹谷清臣派人侦察获得虚实情况，用八千轻骑兵，命令宣徽使移剌敏为都统，左卫将军完颜充、招讨使完颜安国为左右两翼，分别率领前锋部队，夹谷清臣亲自挑选一万军队做后续部队。进军到合勒河，前锋部队移剌敏等在栲栳泺攻下十四座军营，然后回头迎接大部队，他所属部下斜出掩盖他所俘获的牛羊物资往回运。夹谷清臣派人斥责惩罚他，北阻礩因此叛变离去，大肆侵略掠夺。皇帝派人斥责夹谷清臣，命令右丞相完颜襄代替他。承安五年(1200)，夹谷清臣降为横海军节度使兼沧州管内观察使。
起初，皇帝告诉宰臣说：“夹谷清臣旧时有功劳，其罪状不明显，如果降级使用，不如让他退休。”考虑让夹谷清臣为知广宁府，皇帝说：“姑且给他沧州。”既而又说：“给就给他，只恐怕有人说。”不久夹谷清臣退休。泰和二年(1202)夹谷清臣死去，终年七十。他的儿子夹谷么查剌继承他的猛安。起初议论征伐，夹谷清臣主管其事，不久领军出征，获得大捷后，他贪图小利，造成北部边疆几年不安定，天下人都指责他。