这是1914年初秋，赵登禹与二哥赵登尧及同乡赵学礼、赵全德等人瞒着家人偷偷离家出走。四人来到村头常打水的井沿上坐下来，赵登禹回望这虽然贫困却生他养他的村庄，想象着母亲发觉他与二哥不告而别后的恓惶，不禁悲从中来。这一年，赵登禹刚满16岁。

当时，赵登禹根本不知道，自己要投奔的这支队伍是什么性质的，更不知道去招募新兵的官就是冯玉祥。由菏泽去潼关有九百多公里，几个年轻人一路跋涉，风餐露宿，出门时带的几个钱，很快就花完了，他们就靠帮人打工扛活挣几个饭钱。

经过二十多天的跋涉，他们终于到了潼关。然而这时才得知，部队招收新兵工作已经结束，且招收名额已满。伙伴们都很泄气，主张返回菏泽，但赵登禹坚决不同意，主张坚持努力，一定要当兵。他们几个人找到主持招兵工作的官长，软磨硬泡，好说歹说，终于说服官长同意，但因名额已满不能成为正式士兵，只能做“副兵”，只吃粮不发饷。

从此，赵登禹开始了军旅生涯。