传说朱元璋在同元朝军队的战斗中，被打得大败，而且负了重伤，逃到江西康山，当地乡民知道他是反对元朝的，就把他藏在山洞里，治伤供食，使朱元璋的伤口很快治愈。当要离别乡亲们时，他非常感激，老乡们却好像未卜先知地对他说：“要是你将来当了皇帝，恐怕就不认得我们平民了！”朱元璋连忙回答说：“不会的。如果真有那么一天，你们只管来找我。”老乡们说：“皇宫大院的，我们去哪里找？就算找到了，我们平民又哪里进得去？说说笑笑算了。”朱元璋却一本正经地说：“你们就说是我朱元璋的表亲来找就行了。”
1368年，朱元璋当上了明朝开国皇帝。有一年，江南一带发生了旱灾，尤以江西为重。广大农民每年还是分夏秋两次向朝廷交纳赋税，并要按丁服“徭役”。贫苦乡民在无可奈何的情况下想起了“朱老表”。于是，乡民来到朝廷，自称是朱元璋的老表，获准进入了皇宫大院。他们万万没有想到，朱元璋真的召见了他们，并详细地听了他们的意见和要求。结果，在这一年，朱元璋下令减免了他们的税收。从此，“老表”便成了江西人的代称。
另有一说，太平天国时，江西人逃到湖南避难，和湖南人建立了深厚的感情，老表是由湖南人开始使用的最亲热的称呼。