历时两年的南苑练兵，堪称中国近代军事教育史上辉煌的一页。冯玉祥创立的练兵原则和方法，不但对自己的部队起了强化作用，也对后来一切具有人民性的军队提供了借鉴。冯玉祥认为，军人必须具备强健的体魄。他在痛斥懒惰的同时，特别注重强化体能训练，并选择单杠作为典范性项目。规定每个士兵和中下级军官，必须掌握“屈伸上”、“摇动转回”和“倒立”三种动作。凡全部过关的军官可佩带红色金属证章，两项过关的佩带黄色证章；士兵标准相同，只是证章是布做的。凡不佩带证章者等于“饭桶”。以此激励官兵知荣辱，明优劣。就连高级军官也必须会“屈伸上”，否则会受到训斥。

冯玉祥深知，自己的部队装备低劣，与拥有现代重武器的敌人作战，必须有正确的战术。他根据装备上敌强我弱，素质上敌弱我强的情况，确定以近战、夜战、白刃战为训练目标。选用中国式大砍刀作为除步枪外的主要武器，从传统武术中择取实用套路，用以训练士兵。后来的战事证明，冯玉祥部队的大刀具有相当大的威力，不但国内军阀望而胆寒，连日本侵略者也畏之如虎。

强将手下无弱兵。赵登禹也常常作为榜样，为大家示范大刀的用法。

为了适应山地作战需要，冯玉祥经常搞夜间紧急集合，而且一律摸黑行动。凡动作迟缓、衣装不整或不能悄无声息者均受斥责。因此，平素士兵都养成临睡前将衣物放于固定位置的习惯。

数九寒天地冻如铁，冯玉祥偏要搞筑城比赛，规定不许用火烤炙地表，只允许用锤、钎、锹、镐，往往彻夜猛干才能挖成。有时一夜作业，负伤者达数百人。

冯部经常弹药匮乏，冯玉祥强调“弹药是第二生命”，要求“一粒子弹消灭一个敌人”。为使兵士便于掌握射击要领。他亲自编写《打靶歌》，让士兵在歌唱中学习知识。