吕蒙是东吴攻灭关羽的最早倡议者。吕蒙针对于关羽所督的荆州，215年夺取三郡，219年再夺三郡，最终使得东吴国土面积大增，实现了“全据长江”的宿愿。
吕蒙年少时，南渡长江，依附姐夫邓当。
邓当为孙策的部将，曾数次征伐山越。吕蒙大约十五六岁，曾偷偷跟随姐夫邓当外出作战。后来，邓当发现了他，非常吃惊，并厉声喝叱他，但吕蒙依旧偷偷跟随。作战归来，邓当将此事告诉吕母。
吕母很生气并要处罚他，吕蒙说：“现在这样贫贱的日子，实在是难以生活下去。外出作战，说不定可以获得功劳，就能取得富贵。况且，不入虎穴，焉得虎子？”吕母怜惜而饶恕了他。
当时，邓当的一个手下官员，见吕蒙年幼，很轻视他，说：“吕蒙那小子有什么能耐？这是想拿肉喂虎而已。”
后来，又当面耻笑羞辱吕蒙。
吕蒙大怒，举刀而杀之，逃到同乡郑长家中。
后通过校尉袁雄出来自首，袁雄为吕蒙从中说情，并将他推荐给孙策。孙策见吕蒙确有过人之处，便把他安排在身边作事。几年后，邓当去世。张昭推荐吕蒙接替邓当职务，任别部司马。
建安五年（200年），孙策遇刺身亡，享年26岁。
孙权接掌了江东的大权，想把那些统兵较少又发挥不了多少作用的年轻将领检选出来，把他们的部下加以调整合并。吕蒙听说后，知道部队合并后，自己想有所作为，就更困难了。于是，他想办法赊来物品，为部下赶制了绛色的服装和绑腿，并加紧操练。
孙权检阅时，吕蒙兵马“陈列赫然，兵人练习”，孙权见后大悦，认为他治军有方。不但没有削减其部，反而增加了他的兵员。
建安九年（204年），孙权讨伐黄祖，击破黄祖水军，获悉丹阳、豫章、庐陵三郡的山越起事。孙权引军返回，吕蒙随军征讨。至豫章郡，孙权命征虏将军吕范平鄱阳，荡寇将军程普进击乐安，建昌都尉太史慈抚治海昏，同时，令吕蒙与别部司马黄盖、韩当、周泰等率兵镇守险要，担任山越最为活跃地区的县令或县长。吕蒙与诸将遵照孙权的部署，各自以武力平定了本地区起事的山越族人。吕蒙因功被任命为平北都尉，兼任广德长。
建安十三年（208年），孙权采纳将军甘宁建议，发兵进攻夏口，吕蒙随军出征。
江夏郡太守黄祖下令用蒙冲战舰封锁沔口，用大棕绳系巨石为锥以固定舰位，上有千余人用弓弩交射，封锁江面，吴军进攻受阻。孙权命偏将军董袭、司马凌统各率百人敢死队，身穿重铠，乘大船冲抵蒙冲舰旁，董袭挥刀砍断棕绳，战舰顺水飘流，孙权军遂溯流而进。
黄祖见孙权兵来，黄祖急派水军都督陈就率兵反击，吕蒙统率前锋部队，身先战阵，亲自斩杀陈就。孙军乘胜水陆并进，包围夏口城。孙权督军猛攻，克其城，并屠之。黄祖只身逃窜，被骑士冯则追斩。
此战，孙权大获全胜，一举歼灭宿敌黄祖，占领江夏地区。战后论功，孙权认为：“这次战事的成功，起因于先击败了陈就。”任命吕蒙为横野中郎将，并赐钱千万。
建安十三年（208年）十月，吕蒙还跟随周瑜、程普等人在赤壁大破曹操，曹操引军北归，留曹仁等驻守江陵。孙权命周瑜、程普统兵数万，与曹仁隔江相持。时益州将领袭肃率军投诚，周瑜上表，请孙权把袭肃所部拨给吕蒙管辖。
吕蒙却有不同的见解。他从全局考虑，认为周瑜的意见欠妥。他极力称扬袭肃有胆识，有才能，并说袭肃向慕教化远道前来投诚，只该增加他的兵力，而不该褫夺他的兵权。孙权觉得吕蒙说得有理，便依照他的意思，归还了袭肃的部队。
不久，周瑜欲夺取江陵，先派甘宁袭取上游的夷陵城，对江陵形成侧背威胁。于是，曹仁分兵围攻甘宁，欲夺回夷陵。甘宁向周瑜求援，诸将担心兵少，如救援夷陵，则造成江陵空虚。
吕蒙对周瑜、程普说：“留下凌公绩，我与您一道，前去救急解围，按情势不会要太多的时间，我保证凌公绩能固守十天。”接着又献策，劝周瑜派三百人用木柴把本来险峻的山路截断，当敌人逃跑。
时，我方就可获得他们的马匹。周瑜采纳了他的建议，亲率主力驰援夷陵，大破曹军于夷陵城下，所杀过半。曹军乘夜逃走，途经木柴堵塞的险路，无奈，骑马者皆弃马徒行。周瑜、吕蒙驱兵追赶截击，获得战马三百匹，军威大振。随即回师渡江，进军北岸，构筑营垒，向江陵发起进攻。
此时，孙权为策应周瑜攻势，派兵包围合肥。曹仁由于孤军无援，在近一年的交战中屡战失利，损失甚重，遂被迫放弃江陵城，退往荆州。周瑜占领江陵，被孙权任命为南郡太守，控制了长江中游地带。吕蒙因功被任命为偏将军，兼任寻阳令。
建安十五年（210年），周瑜病死，鲁肃接任。鲁肃到陆口，途经吕蒙驻地。鲁肃为一代儒将，认为吕蒙是武夫出身，有些轻视他。但是后面吕蒙经过学习后得以成长，最后才有了士别三日当刮目相看的谚语。
建安十八年（213年）正月，曹操亲率十万大军进攻孙权，进至濡须口，攻破孙权军江西营寨，俘虏都督公孙阳。吕蒙随孙权统领七万部众抗御曹操。吕蒙多次献奇计，且均有效验。还劝孙权在夹水口建立船坞。
吕蒙防范敌兵，精到细密。后曹操遥望孙权的军队，见阵容威严，布防严密，慨叹说：“生子当如孙仲谋。”遂不敢轻易冒进。适值长江春讯将至，孙权写信劝曹操尽速撤兵，曹操也审时度势，主动撤军而回。
建安十九年（214年），曹操为充实军粮，派庐江太守朱光在皖城地区屯兵耕地，种植稻谷。又派间谍招降鄱阳一带的强盗头目，作为内应。吕蒙认为“皖县田地肥沃，如果粮食丰收，他们的兵员就会添增，这样一连几年，曹操的优势就显露出来了，应该早点拿下皖县。”孙权采纳了他的意见。
五月，大雨使江河水涨；闰月，孙权率军沿江而上，进攻皖城。朱光收聚部众据城坚守。
孙权问计于诸将，诸将欲修筑土山，添置攻城器具。
吕蒙说：“制造攻城设备和堆土成山，须多日才能完工。到那时，敌人城防已经巩固，援兵必定到来，我们将不能夺得皖城。况且我军乘雨多水大而来，如果旷日久留，大水必定渐渐退走，我们回兵的道路会遇到困难，我以为那是很危险的。现在看来，此城不会十分坚固，我三军士气高昂，四面齐攻，很快就可攻克，然后趁大水未退而回军，这才是大获全胜的策略。”
孙权采纳了这一建议。吕蒙举荐将军甘宁为升城督，率领精锐士卒，从拂晓发起猛攻。吕蒙擂鼓助威，甘宁身先士卒，吕蒙以精锐紧随登城，仅一顿饭时间，就将城攻破，擒朱光，俘数万人。驻守合肥的曹魏大将张辽得知皖城告急，急忙率兵驰援，至夹石，闻皖城已失，只好退兵。
此战，对孙权控制江淮地域起重要作用。孙权认为此战吕蒙功劳最大，重加奖赏，当下任命他为庐江太守。所俘获的人马也都分给了吕蒙，还特赐他寻阳屯田六百户，官属三十人。
吕蒙返回寻阳。不久，庐陵盗贼为乱，诸将屡次征剿未平，下令让吕蒙前往征讨。吕蒙兵至庐陵，擒杀首恶，余下的全部释放，让他们复操旧业。