这个成语的出处一般认为有以下几个出处：
1、《荀子·王制》：“偃然按兵不动。”
2、《吕氏春秋·恃君览》：“赵简子按兵而不动。”
3、明罗贯中《三国演义》第六回：曹操来见袁绍曰：“今董贼西去，正可乘势追袭;本初初败兵折将关云长挂印封金》：绍令退军武阳，连营数十里，按兵不动。
6、《三国演义》第七十回：“黄忠、严颜收兵入寨，俱各按兵不动。”
7、《水浒传》第一0八回：“次日，卢俊义按兵不动，再令解珍等去寻访。”
8、清陈天华《警世钟》：“这时大家以为各国必要实行瓜分中国了，不料各国按兵不动，仍许中国讲和。”
按：控制。原指作战时控制一部分力量暂不行动。现比喻暂不行动，以待时机。
春秋末期，诸侯争霸，弱肉强食，位于晋国东部的卫国由于国力微弱，长期以来受着强大晋国的压迫，苦不堪言。当时在位的国君是卫灵公，卫灵公不愿长久地处于屈辱的地位，便毅然与晋国同样强大的齐国缔约结盟，从而与晋国断绝了关系。
卫灵公的这种做法让当时晋国的执政者赵简子非常恼火。赵简子立即调集军队，想要讨伐卫国的都城帝丘，迫使卫灵公屈服。大军出发之前，赵简子先派出大夫史默前往卫国暗中了解情况，并命令他一个月内回国报告。可是，一个月很快过去了，史默还是没有回国，赵简子不知道究竟发生了什么事，因此心神不安。晋国官员也开始议论纷纷：史默可能已被卫国杀害，不会再回来了。况且，卫国只不过是一个微弱的小国，没有多少军事力量，晋国出兵必会一举击破卫国，所以请求赵简子下令出兵。
赵简子并未接受这个建议。他认为卫灵公既然敢与晋国断绝往来，一定已经做好了充分的准备，贸然进攻，会使晋国损失巨大。所以他坚持要等史默回来，然后再考虑出兵事宜。
半年之后，史默终于回来了。赵简子问：“你为什么耽搁这么长的时间呢?”史默回答说：“经过六个月的考察，卫灵公很有才干，国内贤臣很多，人民拥戴，举国上下团结一心。如果我们要依靠武力使卫国屈服，恐怕要付出很大的代价!”
史默还讲述了卫灵公为激励国人抗击晋国的情绪而采用的方法：卫灵公派大夫王孙贾向国人宣告，说晋国已经下令卫国——凡是有两个女儿的家庭，都要抽出一个送往晋国去当人质。消息传开之后，卫国到处是痛哭声和愤恨声。为了使国人相信这是事实，卫灵公又让王孙贾抽选出一批宗室大夫的女儿，准备送往晋国。结果他们出发那天，成千上万的百姓前来阻拦，不让她们去晋国当人质，并且愤慨地表示要和来犯的晋军拼战到底，宁死不屈。
赵简子听了史默介绍的情况之后，认为进攻卫国的时机还不成熟，于是便“按兵不动”，等待有利时机。
