1926年初，同乡人陈赞贤从广州回到了潭口。陈赞贤已在上年加入了中共，他径直来找罗贵波，大概是廖贵潭、陈铁生已在广州作了介绍的缘故。陈赞贤向罗贵波讲述了孙中山的革命主张，希望罗贵波也和他一起投身革命，去唤起民众。陈赞贤说的和罗贵波心里想的一拍即合，罗贵波立刻就答应了。

不久，陈赞贤介绍罗贵波秘密地加入国民党，还推荐罗贵波到一家小学去教书，向少年们讲述革命道理。

又过了些日子，廖贵潭从广州回来了，和他一起回来的另一位同乡是黄埔军校第5期学生蓝广孚。他们都成了共产党员，回来搞农民运动。廖贵潭、蓝广孚一回来就找罗贵波，向他介绍在广东学到的新思想。此时的罗贵波已经读过不少《向导》《新青年》杂志上的文章，还有恽代英、萧楚女写的一些介绍共产主义的小册子，思想急剧变化。罗贵波说，在这个时期，他接受了马克思主义。1926年12月，由廖贵潭、蓝广孚介绍，罗贵波加入了中国共产党。入党宣誓于一个夜晚在蓝广孚家里举行，一面红旗，一盏油灯，三个赣南青年心情激动地站在一起。

罗贵波受命开展学生运动，驱逐了小学的校长，并把廖贵潭请来当校长。但是县教育局不予承认，并通知学生家长不交学费，使学校难以维持。罗贵波拿出了自己的积蓄，坚持将近一个月就支撑不下去了。被赶走的校长复职了，罗贵波在1927年秋天离开学校，从事农民运动。

这时，大革命已经失败。罗贵波在当年年底曾组织年关暴动未成，又在1928年2月参加组织了潭口暴动，率领数百名农民，仅靠四支步枪和一支驳壳枪，就消灭了当地的靖卫队数十人，缴获了十来条枪。但是，清晨暴动，国民党军下午就赶到了，农民军寡不敌众，卷起红旗上了山。

此后，罗贵波还到赣县、新风等地组织过农民暴动，并于1928年9月担任了安远县委书记，是当地的赤卫队（游击队）队长兼政委。1930年，年轻的罗贵波加入红军，当过纵队队长和军长、政委，在赣南作战。数十年后，罗贵波回忆往事的时候，不禁感慨地说：“其实我没有受过军事教育，待到上阵打仗，打埋伏、包围、袭击，都还是从《三国演义》《水浒传》那里学来的。再加上自己的热情，仗就这么学着打起来了。”

尤其让他感慨的是，他最要好的战友廖贵潭、蓝广孚、陈铁生，都在红军时期残酷的战斗中牺牲了。从那时起，罗贵波戎马倥偬，苏区反“围剿”、二万五千里长征、雁北根据地抗日、与阎锡山军会战晋中，最后攻取太原。20年岁月飞逝，中国共产党终于夺取了全国政权。

此刻，罗贵波一路南行，离乡辞国，要去越南了。留恋祖国的罗贵波同样企盼着，把胜利也带到越南去。