在黄埔军校，冷少农在周恩来的直接领导下开始了革命生涯。后来他秘密加入中国共产党。
大革命失败后，冷少农被派往南京，开始了隐蔽战线的战斗。利用与国民政府军政部部长何应钦的同乡关系，冷少农打入国民政府军政部任秘书，真实身份是中共派驻南京情报小组组长。他成功获取并向党中央传递了许多重要情报，其中包括国民党第一、第二、第三次“围剿”中央苏区的机密军事情报，为中央红军取得反“围剿”胜利发挥了重要作用。
离家投身革命以后，冷少农一直没有回过家乡，母亲多次来信催他回家，责备他不顾家中母亲和妻儿，只图自己的荣华富贵。由于革命的需要，面对母亲的指责，冷少农无法直接说出不能尽孝的原因，悲痛中他给母亲写了一封长达五千字的回信，委婉地向母亲解释，他在信中说：“我是把我的孝，移去孝顺大多数受苦的人类，忠实地去为他们努力……我要这样干，非得把全身的力量贯注着，非得把生命贡献。”
忍受着亲人的误解，冷少农继续潜伏在南京从事地下革命工作。1932年6月9日，因叛徒出卖，冷少农在南京雨花台英勇就义，年仅32岁。