9岁那年，赵登禹的父亲因病去世。因生活所迫，他只念了两年书就辍学了，从此在家务农。

赵登禹自幼崇拜行侠仗义、杀富济贫的好汉。他常常路见不平，拔刀相助。那时候，富人子弟欺负穷人孩子是常有的事，只要赵登禹看见哪个小伙伴受欺负，必定上前打抱不平，为穷孩子出气，甚为乡邻称道。

13岁时，赵登禹拜当地颇有名气的武师朱凤军为师。由于他身高体健，膂力过人，又聪颖刻苦，不长时间就练就一身好功夫。

赵登禹少年时期，国内政治腐败，民不聊生。家庭的贫困，阶级的冲突，民族的灾难，渐渐在他的脑海里打下深深的烙印。随着年龄的增长，赵登禹慢慢懂得世上不平等的事情多得很。为了铲除人间不平，寻找穷人的出路，为了国家和民族的振兴，他决定离家从戎。

赵登禹排行第三，人们叫他“小三”(后来，连冯玉祥将军也这样称呼他)。当时，冯玉祥将军的队伍在老百姓心目中威望很高。赵登禹拿定主意，投奔冯玉祥。

1914年初秋，刚满16岁的赵登禹瞒着家人，与同村的好友赵学礼、赵全德一同离家，跋山涉水，不分昼夜奔行二十多天，行程九百余公里赶到陕西潼关。可此时，冯玉祥已停止招收新兵。赵登禹和伙伴们并不甘休，围着长官软缠硬磨，不厌其烦地讲述自己立志当兵的迫切心情。长官被他们缠得没办法，只好把他们编在陆军第十六混成旅一团三营，给佟麟阁连长当副兵。佟麟阁说：“你要知道，当副兵只管饭，不发军饷。”赵登禹满不在乎地说：“我来当兵，不为发财，只为报国！”