这首《小重山》是元帅帐内夜深人静时岳飞诉说自己内心的苦闷——他反对妥协投降，他相信抗金事业能成功，他已以取得了多少重大战役的胜利，这时宋高宗和秦桧力主召开和议，和金国谈判议和。使他无法反抗的命令，这就是绍兴八年（1138）宋金“议和”而不准动兵的历史时期。
岳飞于北宋末宣和四年（1122）参军，至北宋灭亡前的四年里，他在抗金名将宗泽麾下英勇作战，升为秉义郎，自那时候，他就献身抗金战场。绍兴六年（1136）至绍兴七年（1137），他连续指挥军队收复黄河以南大片国土，形成西起川陕，东到淮北的抗金战线，准备大举收复中原，北上灭金。但就在这时，不想伤害宋金关系以不让钦宗返回南方危及自己皇位的宋高宗赵构，起用极力妥协主和汉奸的秦桧为相，停止抗金、迫害主战派，王庶、张戒、曾开、胡铨等均被罢免、除籍、编管甚至杀害，而对岳飞，此时秦桧还不敢动，但坚决制止岳飞再与金国作战。大好的抗金复国形势，有付诸东流的危险。
《小重山》一词，正是在这种形势、气候下写的。岳飞内心的极度郁闷，对投降派猖獗的极度愤慨，身为朝臣又极无可奈何的种种复杂心情，均写于词中。