1884年5月8日，杜鲁门在密苏里州拉马尔的一个农民家庭出生。他的父母都是农民，所以在全家迁往密苏里州的独立城之前，杜鲁门一直生活在哈里森维尔附近的农场里。
作为一个农民的儿子，杜鲁门的童年过的非常简单。比较值得一提的是，小时候杜鲁门的父母不允许杜鲁门参加体育运动。这不是因为父母担心体育运动耽误学业，也不是因为父母认为体育不重要，而是因为杜鲁门的眼镜。
从很小的时候，杜鲁门就高度近视，从6岁的时候，他就必须戴上高度近视镜。对于一个普通农民家庭来说，购买那厚厚的近视镜可是一笔不小的负担。因为担心体育运动会可能会打破杜鲁门的眼镜，所以父母三令五申地禁止杜鲁门从事体育活动。
体育活动不让参加，打架这种比体育活动更可能打破眼镜的行为更是被严格禁止的。那遇到打架的事情怎么办呢？杜鲁门想出了自己的办法，他后来回忆说：“如果遇到可能导致危险的聚众打架，我总是提前跑开。”
作为农民家庭中的长子，杜鲁门平时不仅要做一些例如在厨房里帮忙等家务，还要经常照顾妹妹，哄她睡觉。
虽然看起来杜鲁门还算是个听话的孩子，但在童年时期，他也做过一些奇怪的事情。据说，一次杜鲁门把头发绑到了椅子上，头朝下练习倒立。不仅如此，他还把一粒种子放到嘴里。倒立的后果最多是摔伤，这还没有多大问题，但口里含种子就非常危险了。因为这粒种子，杜鲁门差点被噎死。幸亏母亲及时把种子从杜鲁门嘴里掏了出来。
还有一次，杜鲁门试图用脚去关地下室的门，结果他的一个脚趾头被门夹掉了。不过幸运的是，后来一个医生又把杜鲁门的脚趾头给接上了。
大约从5岁开始，母亲开始教杜鲁门认字。为了方便上学，6岁的时候，杜鲁门一家又迁移到密苏里州独立城。
10岁的时候，杜鲁门阅读了一本名为《伟大的男人和出名的女人》的书。这本书激发了杜鲁门的读书欲望，此后他阅读了大量的人物传记、国家历史等方面的书。这个时候，杜鲁门比较崇拜有强烈征服欲望的战争英雄亚历山大、拿破仑。
可能是受亚历山大这些征服狂的影响，完成高中的学业之后，杜鲁门曾经希望去西点军校深造。但因高度的近视，杜鲁门被西点拒之门外。
这个时候，在赖特夫人的指导下，杜鲁门成为了一名专业的钢琴演奏者。赖特夫人鼓励杜鲁门把音乐作为他一生的事业，杜鲁门也基本接受了赖特夫人的建议。但就在这时，杜鲁门的父亲突然破产了，杜鲁门被迫放弃自己的求学计划。
在接下来的一段时间里，杜鲁门做过了很多职业，其中包括铁路计时员、投递员、银行小职员等。总的来说，这个时期的杜鲁门是非常不成功的。
1905年，杜鲁门开始在部队服役。起初杜鲁门属于国民自卫队，“一战”期间，杜鲁门的部队被编入正规军，杜鲁门开始以炮兵的身份服役。
在服役期间，杜鲁门没有立过战功，也没有受过伤，只是在巴黎和会就要召开的前三天，他授过勋。杜鲁门也承认这次授勋，他有点“愧不敢当”。
唯一值得一提的是，在军营中他认识了堪萨斯城政客汤姆·彭德格斯特的侄儿詹姆士·M。彭德格斯特，而这位政客在战后对杜鲁门有一定的帮助。
服役期间的1906年，杜鲁门向一个名叫贝丝·华莱士的小姐求婚，结果失败了。求婚失败之后，杜鲁门并没有放弃，而是决定等赚到更多的钱再次求婚。
战争结束以后，杜鲁门回到了独立城，再次向贝丝求婚，并获得同意。1919年6月28日，杜鲁门终于迎娶了他一直深爱的贝丝·华莱士。
这个贝丝的父亲曾经是一名公务员，1903年不知道因为何种原因自杀了，这件事后来对杜鲁门的仕途也产生过一些影响。