州地方的守兵，听说还不怎么强，前去攻占能够取胜。然而那地方只有陆路相通，是骁勇的骑兵长足驰骋之地，您今天得到徐州，那么曹操后十天就会来争夺，虽然用七、八万兵力守着它，还是免不了常常担心受吓。不如攻取关羽的地盘，占据整个长江流域，形势就更为壮观。”孙权觉得这些话分析得特别有道理。及至吕蒙接手鲁肃，初到陆口，表面上倍加与关羽修好结盟，恩赠更为厚重。

后来关羽征讨樊城，留下部分兵力驻守公安、南郡。吕蒙上疏指出：“关羽征讨樊城而多留防守的部队，必定是担心我谋取他的后方。我时常患病，请分派一部分兵力回建业，以我治病为名。关羽听到这一消息后，必定撤走留守后方的部队，尽数开往襄阳。那时我们大部队从水路昼夜逆流而上，袭击蜀军空虚所在，则南郡可得，而关羽也就可以擒获了。”于是假装病重，孙权就公开发布文书召吕蒙回建业，暗中与他密商计策。关羽果然信以为真，逐渐撤走南郡的留守部队开赴樊城。魏国派遣于禁救援樊城，关羽将于禁等全部抓俘，夺得人马数万，借口缺粮，擅自取走吴国运往吴、蜀交界处湘关的大米。孙权听说，即开始行动，先遣吕蒙在前出军。吕蒙军至寻阳，将精兵全部埋伏在大船之中，让人穿着一般衣服作百姓的模样摇橹，船中坐着的人都打扮成商人的模样，昼夜兼程，来到关羽设在江边的哨所，将哨兵们全部俘虏，所以关羽根本没有听到东吴进军的消息。吴军抵达南郡，士仁、糜芳都投降吕蒙。吕蒙进据城中，尽得关羽和其他将士的家眷，对他们进行安抚劝慰，约定吴军不得干扰百姓，不能索要任何东西。吕蒙帐下有一个兵士，是汝南人，拿了百姓家一个斗笠，用来遮盖铠甲，铠甲虽是公家物品，但吕蒙仍然认为他违犯军令，不能以同乡的关系而废除法令，于是流着泪杀了这个兵。于是全军震惊，做到路不拾遗。吕蒙日日派出亲近的将士去慰问抚恤老年人，询问他们缺少什么，有病者给他派医送药，饥寒者给他送粮送衣。关羽府中所藏的财货，都封存起来等待孙权前来处置。关羽在返回江陵的路上，多次派人打听吕蒙互通消息，吕蒙都厚待关羽派来的人，让他们周游城中，到各家致意问候，或者让家人亲自给军中的将士写信说明情况。关羽的使者回到关羽军中后，将士们私下里互相探询，都知道家中安然无恙，所受的待遇比过去更好，故此关羽全军将士失去了斗志。正逢孙权大军紧接着来到江陵，关羽自知势孤力穷，于是逃往麦城，西行到漳乡，兵士们都离开关羽投降孙权。孙权派朱然、潘璋卡住关羽必经的道路，将他们父子二人全都抓住。于是吕蒙平定了荆州。孙权任命吕蒙为南郡太守，封国孱陵侯，赐钱一亿，黄金五百斤。

吕蒙坚决不接受黄金和钱，孙权不答应。封爵令尚未颁发，适逢吕蒙发病，当时孙权在公安，把吕蒙接来安置在自己的内殿，用了千万种药方给他治病，并悬赏国中有能治好吕蒙的疾病者，赐予千金。有时医者用针扎刺吕蒙，孙权为吕蒙的疼痛而痛苦难过，想常去探望他的病情如何，又怕他为自己而过于劳累，常在壁上凿洞观望吕蒙，见吕蒙能稍稍吃点东西就高兴，对身边的人有说有笑，否则叹息不止，夜不能寐。吕蒙病情有所好转，他就下令大赦，群臣全都上前庆贺。后来吕蒙病情加重，孙权亲自到病榻前探望，命令道士在星辰下为吕蒙祈求延寿。吕蒙四十二岁时死在孙权内殿。当时孙权悲痛异常，为此减少各种娱乐活动、减少了食量。吕蒙未死之前，把孙权赏赐给自己的金银珠宝等赐物全部交付府库收存，嘱咐主管人员在他死后全数上交，丧事务必简约。孙权听说这些，益发悲痛感动。吕蒙年少时不学习经典书籍，每次陈述大事，常常口述让别人记录后作为奏书，他曾因自己亲兵的事受到江夏太守蔡遗所弹劾，但无怨恨之意。及至豫章太守顾邵去世，孙权问吕蒙用谁接替为好，吕蒙因而举荐蔡遗担当这个职务是个好官吏，孙权笑着说：“你想当祁奚呵？”于是任用蔡遗。甘宁粗暴好杀，既常常令吕蒙不满意，又不时违背孙权的命令，孙权很恼火，吕蒙多次替甘宁求情说：“天下尚未平定，猛将像甘宁那样很难得，应当对他宽容忍耐些。”孙权于是厚待甘宁，后来尽得其用。吕蒙儿子吕霸承袭吕蒙的爵位，受到赏赐守护坟墓的人三百家，及加赏的免税田亩五十顷。吕霸死后，他的哥哥吕琮承袭侯爵。吕琮死后，他弟弟吕睦续承其爵。