韬武略，于是朝廷封他为吴州总管，把平定南陈的事委托给他。他欣然接受，以平陈为己任。

开皇九年(589)，隋军大举进攻陈国，贺若弼被任命为行军总管。即将渡江，他用酒祭奠，并祝告说“：我亲自接受朝廷的谋略，向远方弘扬大隋的国威。如果我传播福善制止祸害，请江神让大军顺利渡过；如果我的行为违背原来的心愿，让我葬身鱼腹，死且不悔。”这之前，他让沿江防守的兵士每次换防的时候，一定要聚集在历阳。隋军于是到处遍插旌旗，营幕遍野都是。陈人认为隋朝的大批人马到来，便调集全国的人马。后来弄清楚是防守长江的士兵换防，陈军又被遣散驻防。以后习以为常，不再防备。这时，贺若弼突然率大军过江，陈人没有发觉。隋军首先进攻陈国的南徐州，一举攻克，俘获刺史黄恪。隋军军令严肃，秋毫不犯。有一名军士到民间买酒，贺若弼立即将他斩首。大军进屯蒋山的白土冈，陈将鲁广达、周智安、任蛮奴、田瑞、孔范、萧摩诃等人率劲旅抵御。田瑞首先向隋军进攻，将隋军击退。鲁广达等人挥军相继前进，隋军一再退却。贺若弼估计陈将正志得意满，而他们的兵士却精疲力竭，于是督促隋军将士拼死奋战，把陈军打得大败。他率军从北掖门进入金陵，这时韩禽已抓获陈国后主陈叔宝。他到来后，喊陈叔宝出来见面，叔宝惶恐畏惧，汗流满面，双腿颤栗，一再叩拜。贺若弼对他说“：小国的国君对大国的公卿下拜，也符合礼节。进入我朝也不失作一个归命侯，不要恐惧。”

他忿恨自己没有亲自俘获陈叔宝，于是与韩禽相诟骂，并拔刀相见。他命蔡征替陈叔宝起草投降诏书，命陈叔宝坐上骡车到自己营中来，事情没有成功。隋文帝听说他立有大功，十分高兴，下诏表扬。晋王杨广认为他提前与陈军决战，违抗了军令，于是把他交给主管军法的官吏去处治。隋文帝赶快召见他，见面后极尽欢迎和慰劳，说：“收复三吴，是你的功劳啊。”让他登上御座，赏赐物品八千段，加封上柱国，晋爵为宋国公，赐给襄邑食邑三千户，又把陈叔宝的妹妹赐给他为妾，还封他为右领军大将军。

他认为自己的功名在朝臣之上，常以宰相自诩。不久杨素任右仆射，他仍为将军，所以甚感不平，怒形于色，因此被免去官职，从此他的怨气更大。以后数载，朝廷将他关进监狱。隋文帝问他：“我命高赹、杨素为宰相，你却经常宣扬说这两个人只会吃饭，是什么意思？”他答“：高赹，是我的旧友；杨素，是我舅父的儿子。我都知道他们的为人，实在说过这些话。”公卿大臣们奏报他怨恨朝廷，罪当处死。隋文帝对他说：“大臣们执法不移，你可自己寻求不死的办法。”他说“：我依靠您的神威，率领八千人马渡江，擒获陈叔宝，想依靠这点功劳求活。”文帝说：“这已格外赏赐过你，何必再谈起！”他说：“平陈的时候，朝臣们不同意我去。我却尽心报国，已蒙皇上格外给予重赏，现在还望格外给我活命。”接着，文帝低头徘徊好几天，因爱惜他的功劳，特令将他除名免官。一年多后，又恢复了他的爵位。文帝已忌讳他，不再任命他的职务，然而每次赐宴，对他仍礼遇甚厚。

开皇十九年(599)，隋文帝在仁寿宫宴请王公大臣，命贺若弼写五言诗。他写的诗蕴含着怨愤，文帝看完后宽容了他。第二年春，他又获罪，在被拘押的地方，依然吟诵诗词。文帝斥责他说：“人有性情善良却行为恶劣的。贺若弼的作恶与善行一同出现。他有三太猛：嫉妒心太猛，自以为是而诽谤别人的心太猛，蔑视朝廷的心太猛。过去在北周时，就教他的儿子谋反，他的心难道始终不能改变吗？”一天，文帝对侍臣说：“刚准备平陈时，贺若弼对高赹说：‘陈叔宝可以平定。我会不会像俗语说的，高鸟尽，良弓藏呢？’高赹说：‘一定不会。’平陈以后，他向朝廷索要内史的官职，又索要仆射。我对高赹说：‘功臣适宜授给勋爵，不应参与朝政。’贺若弼后来对高赹说：‘皇太子我说什么他听什么，没有不尽心的。你终久必定要得力于我的帮助，这是多么深厚的情谊啊！’他想镇守广陵，又请求任荆州总管，都是他作乱的表现，真是始终不知悔改呀。”