，下诏由于翼排定生员的等级次序，从此就有等级次第了。

世宗驾崩，于翼与晋公宇文护共同接受遣诏，拥立高祖。保定元年，调任军司马。三年，改封常山郡公，食邑二千九百户。天和初年，升司会中大夫，增加食邑通前三千七百户。三年，皇后阿史那氏从突厥来到，高祖行亲迎之礼仪，命令于翼总理司仪的礼制。狄人虽然蹲坐没有礼节，但是都害怕于翼的礼法，没有人敢违犯。于翼遇父亲去世守丧离职，居丧超过礼节，受到当时人们的称赞。不久皇上下诏，起用他就职治事。高祖又因为于翼善于鉴别人才，皇太子及诸王等人的相、傅以下官员，都委托于翼挑选设置。他提拔任用的人，都是百姓赞誉的，当时都认为选任了称职的人才。升大将军，总理宫廷内外值宿警卫的事务。

晋公宇文护因为皇帝视于翼为亲信，内心怀有猜疑忌妒。改任小司徒，加授柱国。虽然表面上显示推崇重用，实际上是疏远排斥他。到了诛杀宇文护，皇帝召回于翼，派遣他前往河东捉拿宇文护的儿子中山公宇文训，并代理镇守蒲州。于翼说： “冢宰目无君主凌驾于君主之上，自取灭亡。元凶已经剪除，余孽也应灭绝。但是都是陛下骨肉，还是要讲究关系疏远者不参与关系亲近者之间的事。陛下不派遣诸王而派异姓臣子为使者，不单是众人有非议，连我也觉得不安。“皇帝认为他说得对，于是改派垄王室工瑾代替工翼。

在此之前，与齐、陈两国边境，各修边防。虽然通聘交好，但是每年都交战。然而一时攻那边，一时攻这边，不能获胜。高祖亲自执政，将要计划向东征讨，下诏边防城镇，都要增多储备器物，增加守边的十兵。齐、陈两国听到这个消息，也增强守卫防御。于翼劝谏说：“宇文护专权的时候，兴兵到洛，没有交战就失败了，损失实在很多。数十年的积蓄，一朝散尽。虽然因为宇文护没有制胜的计策，也是由于敌人有防备的缘故。况且侵犯国界，互有胜败，白白损失军中储备，不是上策。不如解除边防的戒严，减少戍防的人数，继续交好，使百姓休养生息，友好地接待来者。对方必然对于通好讲和感到高兴，懈怠而减少防备，然后我们出其不意，举兵一次就可以谋取山东。如果还蹈前迹，恐怕不是平定的计策。“皇帝采纳了他的意见。

至塑二年，出任宣堕等六州五防诸军事、室业总管。当时适逢大旱，湏水断流。旧时风俗，每逢久旱不雨，就到白兆山祷告求雨。高祖原先禁止祭祀，山庙已经拆除。于翼派遣主簿祭祀白兆山，当便下足了及时雨，一年的农事就有了收成。百姓都很感谢，聚会一起载歌载舞，颂扬于翼的恩德。

四年，产担将向东征伐，朝廷臣子未有知情的人，派遣纳言卢韫等先后乘坐驿马，三次到于翼那裹向他询问计策。于翼赞同并助成高祖的计划。到了大军出发，下韶于翼率领荆、楚士兵二万，从面、墓直趋窒球，大将军退：蛐、塑坦等都归他管辖。十攻下齐十九座城池。所辖各部都督，擅入民村，立即斩首示众。因此百姓欢欣喜悦，投奔的人如同归家一般。适逢高祖有病，班师回朝，于翼也回到所在的方镇。

五年，改任陆塱等七州十六防诸军事、宜腥总管。工翼认为宣腥不是险要之地，请求调任到迭。下诏听从他，仍任陕州刺史，总管如旧。这一年，大军又向东征讨，于翼从陕进入九曲，攻下造涧等多座城池，一直到了洛阳。齐国洛州刺史独孤永业打开城门，出城投降，河南九州三十镇，一时都被攻下。襄城百姓为又见到了于翼而高兴，一起犒劳军队塞满了道路。不久就任洛怀等九州诸军事、河阳总管。不久调任豫州总管，供给士兵五千人、马一千匹到任所，并配给开府及仪同等二十人。仍下韶河阳、襄州、安州、荆州四州总管内有军事公务的，任凭于翼签发征用公文，不限多少。仪同以下官爵，秉承皇帝旨意先授后奏。陈国将领鲁天念包围光州很久，听说于翼到了汝南，望风退兵逃散。霍州蛮族首领田元显，原仗恃天险不归顺，到这个时候，送上人质请求归附。陈国将领任蛮奴调集全部兵马进攻田元显，田元显修建营栅，抵御抗击，没有人敢有二心。等到于翼回到朝廷，田元显便叛变了。他懂得异域的习俗和风土人情，都像这类情况。