北宋灭掉南汉后，据有长江上中游及下游江北地区和珠江下游地区，从战略上形成了对南唐的三面包围。
南唐在五代时期是一个相当强大的割据政权。后周世宗时期，曾多次征伐，但只是占领了南唐江北地区的领土，而始终没有将其灭掉。宋朝建立后，南唐国主李煜看到南方其他割据政权纷纷灭亡，知道不可与大宋力敌。为了苟延残喘，他一面主动消去南唐国号表示臣服，一面暗中募兵备战以防宋军进攻。
宋太祖的统一大业正如火如荼，又怎能容忍另一个政权孤悬在外？于是便积极筹划攻伐之事。开宝六年(973)四月，宋太祖派翰林学士卢多逊为江南生辰国信使，实为探视南唐虚实，归朝时以“朝廷重修天下图经，史馆独缺江东诸州”为借口，提出“愿各求一本以归”。南唐后主李煜遂命人连夜抄写送交，“于是江南十九州之形势，屯戍远近，户口多寡”，为太祖所全部掌握。卢多逊以南唐衰弱可取，正合宋太祖心意，九月，遂升为参知政事。
南唐落第举子樊若水想投靠宋朝以取富贵，遂在采石（今安徽马鞍山
市南）附近以钓鱼为名，用小船载丝绳往返长江两岸，测量江面宽度。次
年七月，进京向宋太祖献建浮桥攻取南唐之策。宋太祖遂派他前往荆湖，依其计督造船舰。
开宝七年九月，宋太祖派节度使曹彬为主帅，潘美为副帅，南下江陵，做好进攻的一切准备。但宋太祖也感到“未有出师之名”，于是派使臣前往南唐，召后主李煜入朝，但南唐诸臣害怕后主被扣留，都劝李煜不要入朝，李煜遂“称疾固辞”。于是，太祖便以其“抗旨”为借口，部署讨伐事宜。
十月，宋太祖正式任命曹彬为西南面都部署，潘美为都监，率主力由江陵东下；另以吴越王钱锣作为东南面招抚制置使，率吴越兵为偏师由东向西攻南唐，同时派丁德裕为先锋，实为监军，使南唐东西两面受敌。宋军自荆南东下，水陆并进，连克池州、芜湖、当涂，进屯采石矶，击败南唐军，俘获1000余人。十一月，宋军于采石建浮桥，南唐军多次出击采石，先后战败，宋军主力遂从浮桥渡江。连克金陵外围据点，并在秦淮河击败南唐水陆军10余万，形成了对金陵的包围。
然而，后主李煜还在过着纸醉金迷的生活。金陵被围数月，李煜全然不知。开宝八年(975)五月，李煜登城巡视，见宋军已进逼城下，急忙命朱令贽率10万守军东下赴援。朱令贽率水步军号称15万顺江东下，在皖口遇王明部阻止。朱令贽以火攻宋军，因风向改变，反烧自己。宋军乘势猛攻，全歼南唐援军。此时金陵被围九个多月，曹彬再三致书劝降李煜，均被拒。十一月二十七日，宋军发起总攻，金陵城破，李煜被迫投降，南唐灭亡。
据说，在宋军围攻南唐期间，后主李煜曾派徐铉到太祖处劝其罢兵。交谈中徐据理力争，驳得太祖理屈词穷。情急之下，太祖说了一句：“卧榻之侧，岂容他人鼾睡乎？”令徐“皇恐而退”。后世大多评说这句话显示了封建帝土的霸道之态。而笔者则认为这恰恰反映出了太祖誓将全国统一的傲气与豪气。
