王莽天凤四年（公元17年），琅邪海曲吕母为被官府陷害而死的儿子复仇，自称将军，聚众起义，攻破海曲，杀死县宰，以“杀人者死”相号召，贫苦农民踊跃加入，义军迅速扩大，很快便蔓延开来。各地起义军纷纷崛起，衣食无着的老百姓都加入了进去。

王莽天凤五年（公元18年），青州、徐州饥荒，饥民不计其数，琅邪人樊崇被生活所迫，聚集了百余人在莒县造反。本来樊崇只是为了生活不得不做些劫道的无本买卖，没想过真正起义。后来樊崇带领着一众兄弟啸聚泰山，随着附近的饥民纷纷来投，他的部队很快就达到了一万多人，在泰山一带势力发展得很快。官府感觉到了他们的威胁，便派兵前来剿灭。因为战略不当，官军连连失败，此举却激起了樊崇起义的决心，于是他心一横，便走上了和官军进行武装对抗的道路。他的部队本是乌合之众，没有军纪和服号，为作战时能与新军相区别，樊崇令义军把眉毛都染成红色，称为赤眉军。

荆州地区发生了饥荒，灾情很重，老百姓没粮食吃，只好聚众到河边沼泽地里挖凫茈（fúzǐ，即荸荠）为食。凫茈也是有限的，不久就被挖掘一空了，为了活命，饥民经常互相争抢、打架斗殴。新市（今湖北京山地区）人王匡、王风经常为饥民调解讲和，很得饥民的拥戴。王匡、王风看到烽烟四起，反正老百姓实在不能活下去了，索性大家起事造反。后来南阳人马武、颍川人王常和成丹等来归附，短短的几个月，起义的部队就增加到八千多人，起义军以绿林山（今湖北大洪山）为根据地，因此他们的部队又被人们叫做绿林军。

东莞的逄安，临沂的徐宣、谢禄，还有杨音，也同时树起义旗，与樊崇呼应。在冀州、幽州一带，另外活跃着“铜马军”。一时间烽烟四起，新朝政府有些应接不暇了。

新朝地皇三年（公元22年）四月，王莽派太师王匡和更始将军廉丹率十几万新军精锐部队进入山东镇压赤眉军。新军沿途掠夺，给百姓带来了更为深重的灾难。“宁逢赤眉，莫逢太师；太师尚可，更始杀我。”失去民心的新朝军队，怎能打胜仗？冬季双方会战于成昌，赤眉军以逸待劳，大败王匡，打死更始将军廉丹，动摇了王莽在东方的统治。与此同时，王莽诏令荆州牧，调发两万军队进攻绿林山。绿林山的王匡，率义军迎击，在云杜大破官军，杀死数千人，收缴了无数粮草辎重。

绿林军这一仗打得士气大涨，老百姓为了活命，纷纷参加绿林军，其人数暴涨至五万。然而在第二年的四月，荆州突然爆发大规模瘟疫，绿林军平白病死一大半。眼看着绿林山待不下去了，为了有口饭吃，绿林军决定换个地方发展。王匡、王凤带着残余骨干力量下了绿林山，转至老家南阳新市，以二王为首，马武、朱鲔、张卬（áng）为副，号称“新市兵”。而另一部分由王常、成丹、张卬率领，转至南郡下江县，号称“下江兵”。同时在平林（今湖北随州东北）一带，由当地人陈牧和廖湛率领，组成一支由流民为主的杂牌部队，号称“平林兵”。