虽然粟裕没有彻底被批倒，在军事科学院工作，但是依然心情很郁闷。1964年，在北京写下一首诗，初稿如下：“半世生涯戎马间，征骑倥偬未下鞍。爆炸轰鸣如击鼓，枪弹呼啸若琴弹。疆场纵横任驰骋，歼敌何计百万千。遍体伤疤堪自勉，此生聊可慰诸先。” 从最后两句看，粟裕的心情是苍凉郁闷的。因为时年57岁的粟裕在1月份在从化休养突发心肌梗塞，回广州抢救。5月军科院常委决定粟裕休息一年。但粟裕12月又上了班。不久传来蒋军窜犯大陆的消息， 接着1965年10月2日林彪在上海找粟裕谈话，要他多到部队去跑跑，发现什么问题或者有什么意见，可以直接向林反映。 此时的粟裕因为老邓的传话脱离军队多年，此时又得到了可以去军队跑跑的机会，心中激动之情可想而知。 于是，他心情振奋，将末两句改为：“对镜不须叹白发，白发犹能再挥鞭。” 此诗在他逝世后曾发表于《解放军报》１９８４年２月１４日第三版。 《老兵乐》这首诗表达了一个老兵的高尚情操，说出了粟裕心系国家安危为保卫国家安全随时准备再上战场的心情。“对镜不须叹白发，白发犹能再挥鞭”这种精神永远激励后人。

1965年的11月7日 叶剑英到上海。粟裕向叶汇报了林找他谈话的情况。在粟裕的年谱中这样记载， “和原准备回军科院换其他同志休息的想法，叶表示军事科学院就让宋（时轮）、钟（期光）去搞。要准备打仗，你是战将，硬是要把身体养好，准备打大仗、接大班。叶还要军事科学院组织一个班子，随粟下部队去搞调查研究。” 说明了林彪在同粟裕中的谈话中还涉及了要粟裕准备带兵打仗的问题。

1969年，中苏边境紧张，在林彪的同意下，由纪登奎出面把粟裕大将请出来，由其出谋划策。粟裕果然不辞劳苦，带了几个军事参谋跑到中苏中蒙边境防区漫山遍野地转了几个月，搞出了一份防御作战方案，经军科院等所谓专家看过后予以肯定。

1970年4月5日—5月23日在林彪和周恩来的共同安排下， 粟裕去西北、华北等边疆一方面学习地方工作，一方面了解边防情况。 还到甘肃、青海、宁夏、内蒙古、河北做了调查研究， 共行程7000公里，共参观调查50多个单位、70多个基层点。

在粟裕大将落难的困境中，林彪没有忘了这位能打神仙仗的高手。 虽然粟裕后来在9－13之后也猛批林彪，但是大都是重复了别人的话，特别是陈毅的话。