于翼字文若，是太师、燕公于谨的儿子。
风度潇洒，有识见器量。
十一岁时，娶太祖之女平原公主为妻，授员外散骑常侍，封安平县公，食邑一千户。
大统十六年(550)，晋封郡公，加大都督衔，率领太祖随从，为皇宫宿卫。
升镇南将军、金紫光禄大夫、散骑常侍、武卫将军。
于谨平定长江以南，把赏赐的奴婢物品，分给儿子们。
于翼什么也不要，只挑选关内名门子弟中有士人风度的，给以优遇。
太祖听说，特地赐给奴婢二百人，于翼坚决推辞，不敢接受。
随即授车骑大将军、仪同三司，加侍中、骠骑大将军、开府仪同三司等衔。
六官设置以后，被任命为左宫伯。
孝闵帝登基，出任渭州刺史。
于翼之兄于萛原先在该州任职，施政仁惠。
于翼又以诚相待，严守信用，施政宽和简要，蛮汉各族百姓都感激喜悦，把他们兄弟比作大小冯君。
当时吐谷浑入侵黄河以西，凉、鄯、河三州都被围攻，派使者前来告急。
秦州都督派于翼赶去援救，于翼不服从命令。
下属的官员都以此为话题。
于翼说：“攻打进取的战术，不是蛮族的长处。
这次敌人来侵，不过是抢掠边境牧民罢了。
怎能屯兵城下，多日围攻？抢掠而无所得，势必自行退去。
出动军队前往，也一定追不上。
我估计这件事已经结束，不必再说。”过了几天传来消息，果然同于翼预计的一样。
贺兰祥讨伐吐谷浑，于翼率领州兵担任先锋，深入敌境。
以战功增加食邑一千二百户。
随即征调入朝，授右宫伯。
世宗很喜欢文史，建立麟趾学，凡朝内有专长者，不论地位贵贱，都可参加听讲。
以致于萧扌为、王褒等人以及下贱小人同时成了学士。
于翼对皇帝说：“萧扌为是梁主的嫡子，王褒是梁国的的公卿。
如今与仆役之流混在一起，恐怕不合尊尚贤能、重视官爵的道理。”皇帝采纳了他的意见，诏命于翼规定次序，于是有了区别。
世宗驾崩，于翼与晋公宇文护一同接受遗诏，立高祖为帝。
保定元年(561)，贬为军司马。
三年，改封常山郡公，食邑二千九百户。
天和初年，升任司会中大夫，食邑增至三千七百户。
三年(568)，皇后阿史那氏从突厥来到，高祖行迎亲之礼，命令于翼总管礼仪制度。
蛮族虽然素无礼节，可是都害怕于翼的礼法，没有人敢于违犯。
后因父亲去世而离职，服丧时过于哀伤，为当时人所称赞。
随即下达诏命，令他任职。
高祖又认为于翼善于鉴别人物，让皇太子及诸王等人的丞相、太傅以下的官员，都委派于翼挑选。
他所提拔的人，都为民众所赞誉，当时舆论都认为他能够任用人才。
升任大将军，总管内外宿卫兵事。
晋公宇文护认为皇帝把于翼视为亲信，心怀猜忌。
就让他转任小司徒，加授柱国。
虽然表面上职位更高，实际上是疏远排斥他。
宇文护被处死以后，皇帝召见于翼，派他前往河东捉拿宇文护之子、中山公宇文训，并代宇文训镇守蒲州。
于翼说：“冢宰目无君王，欺凌皇上，自取灭亡。
元凶既已除掉，余党也应消灭。
可是都是陛下骨肉，而关系疏远者不参与关系亲近者之间的事。
陛下不派用诸王，而派用我这异姓臣子，不仅会遭到人们的肆意议论，愚臣也心有不安。”皇帝认为他的话对，就派越王宇文盛代替于翼。
最初，与齐、陈二国的边境，各自修整边防，虽然互通使节，但每年都要交战。
由于彼此相当，所以都没有取得什么战果。
高祖亲理朝政以后，打算东征，诏命边境城镇，增加储备，加派士兵。
齐、陈二国得到消息，也各自加强边防。
于翼规劝道：“宇文护执政时，曾经出兵到洛阳，不战而败，损失惨重。
数十年积蓄，一下子丢失净尽。
虽然原因在于宇文护没有克敌制胜的计策，但也由于敌人已有防备。
况且沙场交战，互有胜败，白白损失兵员储备，不是高明的策略。
不如解除边境的戒严状态，减少边防军人数，双方继续维持友好关系，让百姓休养生息，对进入我方境内的人员以礼待之。
对方也必然喜欢互通友好，以致边防懈怠而疏于防范，然后再突然出兵，一下子便可占领太行山以东。
如果依然袭用过去的办法，恐怕不是平定的计谋。”皇帝采纳了他建议。
建德二年(573)，出任安随等六州五防诸军事、安州总管。
当时大旱，..水断流。
过去的风俗，每逢大旱，要到白兆山祈雨。
高祖已经禁止各种祭祀，将山庙拆除。
于翼派主簿前去祈祷，当天就大雨滂沱，这年获得丰收。
百姓感激他，聚会歌舞，称颂于翼的功德。
四年，高祖准备东征，朝廷大臣中没有人知道这件事。
高祖派纳言卢韫等人先后三次乘坐驿车，到于翼那里请教计谋。
于翼协助策划方略。
大军出发时，诏命于翼率领荆、楚士兵二万人，从宛、叶二城出发，向襄城推进，大将军张光洛、郑恪等人都隶属于他。
十天之内，就攻占齐国的十九座城池。
他部下的都督，随便进入村庄，立即斩首示众。
百姓因此欢欣喜悦，纷纷归附。
适逢高祖患病，下令撤军，于翼也回到安州。
五年，转任陕、熊等七州十六防诸军事、宜阳总管。
于翼认为宜阳无山川屏障，请求移守陕州。
诏命允许，任命他为陕州刺史，总管职位不变。
当年，大军再次东征，于翼从陕州进入九曲，攻克造涧等城，直抵洛阳。
齐国的洛州刺史独孤永业打开城门投降，又迅速攻占黄河以南的九州三十镇。
襄城百姓高兴地重新见到于翼，纷纷携酒劳军，竟然堵塞了道路。
随即被任命为洛、怀等九州诸军事、河阳总管。
不久，调任豫州总管，配置士兵五千人、战马一千匹用来镇守，并配置开府、仪同等官员二十名。
又诏命河阳、襄州、安州、荆州等四州总管辖境内，凡有武功才干者，任凭于翼征调，人数不限。
仪同以下的官爵，可先任命而后上奏。
陈国将领鲁天光包围光州很久，听说于翼到达汝南，急忙退兵而去。
霍州的蛮族首领田元显，倚仗险要地形，不肯归附，这时也送来人质请求归附。
陈国将领任蛮奴率领所属全部兵力进攻田元显，田元显树起栅栏抵抗，毫无二心。
等到于翼回朝以后，田元显便叛变了。
于翼能得到蛮族人心，都像这一类事情。
大象初年，调他入朝，授大司徒。
诏命于翼巡视长城，在边塞设立营垒。
西起雁门，东至碣石，建立新垒，改造旧垒，全部设在要害之处。
又被任命为幽定七州六镇诸军事、幽州总管。
原先，突厥多次入侵抢掠，居民流离失所。
于翼早有威名，又加强巡逻，突厥从此不敢再来侵犯边境，百姓得以安居。
尉迟迥据有相州起兵时，写信召于翼起事。
于翼捉住尉迟迥的使者，连同信件一块送往京师。
当时隋文帝执政，赏赐于翼杂色丝织品一千五百段、粟麦一千五百石，另有珍宝及服用玩赏物品，升任上柱国，封任国公，食邑增至五千户，另在任城县食邑一千户，收其租税。
于翼又让儿子于让上表劝隋文帝称帝，并请求入朝。
隋文帝答应了他的请求。
开皇初年，授太尉。
有人告发于翼，说他从前在幽州时想随同尉迟迥起事，隋文帝把他召到专门囚禁有罪官吏的牢狱，派司法官审查讯问。
随即因无实据而释放，恢复原任官职。
三年(583)五月去世。
追赠原任官职，加赠蒲、晋、怀、绛、邵、汾六州诸军事、蒲州刺史，谥号为“穆”。
于翼为人恭顺节俭，与人无争，常以骄傲自满为戒，因此能一直保持着功绩声名。
儿子于玺，官至上大将军、军司马，封黎阳郡公。
于玺之弟于诠，官至上仪同三司、吏部下大夫，封常山公。
于诠之弟于让，官至仪同三司。
尉迟迥举兵时，河西公李贤之弟李穆任并州总管，也捉住尉迟迥的儿子送往京师。