从父母的嘴里，冯玉祥体会不到他们说的祖上有多么显赫的地位，家境有多么的优渥。在冯玉祥的眼里，看到的更多是父母对于鸦片的痴迷，经常是家里仅有一点钱，父母也把它挥霍在鸦片上。更可怕的是有时烟瘾犯了，家里没有了钱，就会把家里稍微值点钱的家当，拿到典当行当了钱来购买鸦片。
面对这样的父母，可以想像冯玉祥从小过的是一种什么样的生活，没有穿过一件新衣服，也没有穿过一次新鞋子。唯一值得庆幸的一件事，就是读了三个月的私塾，这三个月的私塾原本也没有冯玉祥的份，是为他哥哥准备的，谁知哥哥却当兵走了，最后好事落到了冯玉祥的头上。
这三个月让十二岁的冯玉祥第一次明白，知识可以改变一个人。私塾先生在这段日子对冯玉祥说得最多的一句话也是，现在你认为读的那些书没有用，但等到有一天，你就会发现都是有用的。三个月后，十二岁的冯玉祥成为了清政府军营中的一员。本来十二岁是不可以入伍的，但长得高高大大的冯玉祥虚报了自己的年纪，冯玉祥心里清楚，像他这样的男孩子呆在一贫如洗的家里，不出来当兵吃上皇粮，不是被饿死，也会被父母的鸦片烟呛死。何况当兵还给饷银，虽然少，但对于穷困的家庭来说，也是一笔收入。
在军营里，冯玉祥虽只有十二岁，但却比一般的人高，而且气力过人，人们都称他为“冯大个子”。冯玉祥才不管人们怎么称呼他，他只知道到了部队，就要出人头地，就得想办法成为军官，拿到更多的饷银，寄回家里，让自己的父母能够有余力养活弟弟妹妹，让弟弟妹妹能够看到这个家还有点希望的影子。
可怎么引起军官的注意，怎么从士兵当中脱颖而出呢？冯玉祥想来想去，终于发现只要拥有一副好嗓子，能够喊合格的口令，工资就能够高一点，就能够实现从士兵中的第一次突围。于是，冯玉祥每天一大早的第一件事，就是练嗓子，对着天空大喊大叫，每当他的声音在军营里回荡的时候，别的士兵就对他怒吼，冯大个，你是不是有病，你不睡觉别人也不要睡觉？冯玉祥才不管这些，他有时候走在路上，也是一边走一边喊操，别人一听，都说他神经病又发作了。
春去秋来，四年的时间过去，冯玉祥终于练出了一副喊操的好嗓子，也终于升职为喊操员，月饷也一下子可以拿到四两八钱的银子了。但冯玉祥不甘心，他开始向更高的方向努力，他读《操法》《阵法》《孙子兵法》等在军队用得着的书。可他就三个月的私塾底子，有些文章一看犹如看天书，但冯玉祥却不肯罢休，他到处向人求教。有时为了一句话，他弄不懂，他也会半夜去敲人家的门请教。