宋初，“燕云十六州”一直被辽人占据。太祖、太宗两代君主都将此视为心病。经过几年的治理，太宗于雍熙三年(986)下令攻伐辽朝。战争开始后，宋军捷报频传，朝野齐贺。而时任武胜军节度使的赵普却上书反对这场战争。
他认为，如果继续打下去的话，百姓遭殃不说，宋朝也一定会失败。但此时太宗屡接捷报，更加坚定了收复“燕云十六州”的决心，并没有理会赵普的劝谏。然而，后来战争的结果被赵普不幸言中了——宋军惨败。至此，太宗不禁暗暗佩服赵普的预见性。端拱元年
(988)赵普从任所入朝时，太宗便拍着他的后背，让他留在京城。随后，便有诏授赵普为太保兼侍中，吕蒙正同平章事。赵普此时已是第三次入相。襄王的表请虽和赵普劝太宗传子不传弟有直接关系，但太宗自有他的打算。他想重用吕蒙正，又恐其资格尚浅，难令群臣信服和拥护，所以特地让赵普扶助他一段时间。
当时，枢密副使赵昌言与胡旦、翟颖等朋党勾结。赵普察知赵、胡私情，同吕蒙正联名奏请将其依法处罚。太宗准奏。郑州团练使侯莫、陈利用凭幻术得到太宗的喜欢，二人骄恣不法，居处穿戴，竞效仿皇帝。赵普列举其十条罪状，请求处斩。太宗将他们发配到商州（今陕西商洛市）。赵普上书，坚持将其处死。太宗不得已，只好命将其诛杀。
赵普知太宗是为安置吕蒙正才让他入相，所以不愿久任。淳化元年(990)，赵普上表辞职，太宗不允。直到他第三次上表，太宗才将其出为西京留守，仍授太保兼中书令。到西京留守的诏命下来，赵普还是再三上表辞让，太宗就传出一道手谕，召他见面。
赵普捧着手谕痛哭起来，随即入朝对答，太宗赐坐左侧。赵普多谈及国家之事，太宗连连点头。约过了一个时辰，赵普才退了出来。将要出都，太宗亲至赵普府第，与其握手叙别。
淳化三年(992)，赵普因自己年迈多病，让留守通判刘昌言奉表到京，请求辞官。太宗派中使来抚问，授赵普太师之衔，封魏国公，给以宰相的俸禄，并让他病好之后，再来朝拜。赵普感激涕零，支撑着又去办公，以图报效。当年七月，赵普因病去世，享年71岁。
太宗闻此噩耗，“凄怆之怀，不能自已”，因此废朝五日。又追赠赵普为尚书令，追封真定王，谥忠献，并亲自撰写了神道碑以纪念他。
据《宋史》载：“普少习吏事，寡学术，及为相，太祖常劝以读书。晚年手不释卷，每归私第，阖户启筷取书，读之竞日。及次日临政，处决如流。既薨，家人发箧视之，则《论语》二十篇也。”
赵普曾对太宗说过：“臣有《论语》一部，半部佐太祖平定天下，半部佐陛下致太平。”后人因称赵普为“半部《论语》治天下”的宰相。
