原本普通落寞的车马小店，只因与水洞沟的辉煌发现相联系，并且在水洞沟文化发现的过程中扮演了相当重要的角色而留名青史。这是历史的偶然还是必然？
张三原名张梓，据见过张三的老人们回忆，张三中等个头，背微驼，细眯的眼睛里总是挂满血丝，脸上布满斑点，两颊泛出一种病态的红晕……
明朝修筑长城之时，在红山堡长城内修筑了一条宁盐大道，来往于宁夏和外地的客商很多，他们往往在水洞沟客店住宿或“打尖”（吃饭、休息、喂牲口等）。到了20世纪20年代上半期，随着仁存渡及银川至灵武等公路的建成，由横城渡口过渡的客商逐渐减少，宁盐大道逐渐废弃，水洞沟地区渐渐衰落，在此居住的人家多数已搬走，只剩下几户。
在此之前，“张三小店”的前身是张三之父张天义开的车马大店，大店北距水洞沟遗址约500米，它处于宁夏银川来往于内蒙古、陕北的必经之路上。当时，店铺颇具规模，有上房7间，东西配房各5间。东来西往的客人均从横城渡口过黄河，大多都于天晚入住该店。张天义经营该店时，生意兴隆，一家人生活得很殷实。
到20世纪20年代，张天义因年事已高，将车马大店交由张三弟兄们轮流经营。由于银灵公路已建成，来往的客人大多于仁存渡过黄河，更主要的是由于边关封锁，过往于水洞沟的行人稀少，生意十分萧条，惨淡经营一段日子，店房渐渐多被拆除，原车马大店变为小店，改为由张三一人经营，被称为“张三小店”。
据考证，20世纪20年代，水洞沟荒无人烟，西距这里十几公里的临河镇石坝村也不过四五户人家，这个特殊巧合造就了“张三小店”必然被写进考古历史的重要机遇。张三夫妇的热情接待促使德日进和桑志华在水洞沟揭开了中国旧石器时代考古的新篇章。
曾师从德日进的我国考古学家贾兰坡先生在1982年所写的回忆文章《我所认识的古生物学大师——德日进》中说：“水洞沟是荒漠地带，附近一带至少在方圆5公里以内荒无人烟。但是这里却有个小小的店房，叫做‘张三小店’，只是为了东来西往的旅客设立的。小店至多能住四五个人，也不卖饭，都是客人自带粮米，店里代为烧饭罢了。当年德日进和桑志华两位在那里发掘的时候，由于当地人很少见到外国来客，面貌、服装、习惯又和当地人不同，因而引起很大注意。直到今日，尽管张三夫妇都已亡故，可是人们一提起两位外国人来，还谈得津津有味。据说这两位西方客人每天只吃土豆和鸡蛋，吃顿烙饼都不容易。因为附近很难买到面粉，更不用说咖啡、牛奶了。”
德日进和桑志华在此发掘期间，据说住在“张三小店”的东间，西间由张三夫妇居住，中间一间是厨房。在对水洞沟进行了科学考察和发掘时，德日进还将张三小店标在了他测制的地图上，他们的考察和发掘报告首先在国外发表，“张三小店”就这样在国际古生物界出了名。德日进在清水河北崖下搜寻时，发现崖壁上显露出灰烬。他跑回来给了张三5块银圆，打着手势要张三为他找个大梯子，然后和桑志华又返回北岸崖壁上，挖掘到一些动物头骨化石。他们激动万分，拿出带来的葡萄酒请张三一同喝，张三平生第一次喝到葡萄酒。酒后，德日进和桑志华万分激动，兴奋得呜哩哇啦地唱着歌、跳起舞。德日进还紧紧握住张三的手，用生硬的中国话说：“合作！合作！”
“张三小店”一直存在到新中国成立后的合作化时期。1965年，张三病逝，其妻张赵氏一人独居于此。1972年以后，张赵氏因体弱多病，搬至十几公里外的临河乡下桥村，由其亲戚照顾。同年“张三小店”由赵龙（张三妻弟）之子拆除。
2006年，水洞沟旅游开发公司根据张三妻弟赵龙老人的回忆，重新修复了“张三小店，塑造了20世纪20年代及其后来对水洞沟文化遗址发掘及研究做出突出贡献的德日进、桑志华及我国考古学家裴文中贾兰坡的半身像，以此来纪念他们。同时，也以重修”张三小店来纪念对水洞沟文化遗址的发掘做出贡献的农民张三及其闻名于世的小店。